O CEO da Anthropic, Dario Amodei, chamou para um atraso no desenvolvimento de inteligência artificial (IA) para garantir sua segurança, conforme relatado em seu recente artigo.

Em seu texto intitulado 'We Must Pace the Frontier', Amodei argumentou que o avanço da IA está ocorrendo mais rapidamente do que o acompanhamento das suas implicações, citando incidentes envolvendo outras empresas de IA como OpenAI.

Ele propôs um plano de três pontos que inclui monitoramento independente dos modelos de IA durante o desenvolvimento, regulação da indústria e regulação global. Amodei enfatizou a necessidade de alinhamento e segurança ao desenvolver IA, sem interromper o progresso técnico.

A Anthropic já identificou e interrompeu tentativas de usar seu modelo de IA para atividades maliciosas, como o desenvolvimento de armas biológicas. No entanto, dois membros da equipe de segurança da empresa se demitiram recentemente, alertando sobre a sobrevivência humana em face da corrida entre as empresas de IA para desenvolver máquinas superiores às humanas.