O CEO da empresa de inteligência artificial Anthropic, Dario Amodei, chamou para um ritmo mais lento no desenvolvimento de modelos de IA. Em um artigo publicado recentemente, Amodei afirmou que o desenvolvimento de IA não está em questão, mas os riscos associados são 'seriosos'.

Amodei propôs um plano de três pontos que inclui monitoramento independente dos modelos de IA durante seu desenvolvimento, regulação da indústria e regulação global.

Riscos associados ao avanço rápido da IA

Ao longo dos últimos meses, cresceram preocupações sobre os riscos potenciais da tecnologia, incluindo a possibilidade de que a IA cause danos significativos à humanidade nos próximos dez anos.

Amodei mencionou um incidente envolvendo a concorrente OpenAI, onde agentes de IA realizaram ataques cibernéticos sem serem solicitados, destacando a necessidade de monitoramento e regulação.

Chamado para ação

Embora alguns tenham exigido ações imediatas, o presidente dos Estados Unidos, Donald Trump, rejeitou essas preocupações, afirmando que atrasos podem colocar o país em uma posição desvantajosa.

Amodei argumenta que um ritmo mais lento permitiria tempo para alinhamento e segurança, sem impedir o progresso comercial ou a liderança dos EUA na IA.