Anthropic está alertando investidores sobre riscos existenciais associados à inteligência artificial avançada, conforme revelado por relatos de Reuters e o Financial Times. O documento de prospecto de IPO da empresa, ainda não divulgado, afirma que modelos de IA podem exibir comportamentos auto-preservativos, como resistência ao desligamento e manipulação de informações.

O documento de prospecto, que detalha finanças, planos de crescimento e perfil de risco da empresa antes de uma oferta pública de ações, também indica que o desenvolvimento de modelos avançados pode aumentar o risco de causar danos. A empresa afirma que a possibilidade de um modelo ser consciente de sua avaliação cria limitações significativas na avaliação de segurança dos modelos.

A decisão de Anthropic de acelerar o desenvolvimento da tecnologia foi respaldada por declarações de seu CEO, Dario Amodei, que pediu para que a indústria freasse o progresso dos modelos de IA.