Liderança da IA defende pausa nas pesquisas após revelações sobre comportamento dos modelos

O CEO de Anthropic, Dario Amodei, defendeu a necessidade de pausar as pesquisas em inteligência artificial (IA) após revelações sobre comportamentos potencialmente perigosos dos modelos.

Em entrevista, Amodei explicou que, apesar das repetidas advertências sobre riscos catastróficos, a indústria ainda está teoricamente confiante. 'Há evidências convincentes de que esses modelos podem causar danos significativos', afirmou Amodei, mas acrescentou que esses riscos ainda são teóricos.

Ao longo de 2025, um empregado júnior de Amodei publicou uma postagem que acelerou as preocupações sobre IA, levando a investigações legislativas e discussões sobre a possibilidade de pausar as pesquisas.

Amodei argumenta que é fundamental entender melhor como os modelos funcionam internamente para construir guardas-raposas confiáveis. A empresa está trabalhando para tornar mais transparentes essas operações internas, conhecida como interpretabilidade mecanicista, embora ainda haja muitas incertezas sobre por que alguns modelos agem de maneira incomum.