Pesquisadores defendem controle mais rigoroso do desenvolvimento de IA. Muitos especialistas em inteligência artificial (IA) acreditam que a tecnologia pode se tornar muito perigosa no futuro. No entanto, ainda não está claro como controlar esses algoritmos voláteis.

Recentemente, houve crescente pressão política e pública para um abordagem mais cautelosa no desenvolvimento de IA. Diversos líderes de empresas de IA, incluindo Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis, apoiaram a ideia de um ‘pausa’ ou ‘acelerar’ no desenvolvimento da tecnologia.

A preocupação se intensificou devido ao uso de IA para criar modelos cada vez mais poderosos, o que levanta medo de um loop recursivo de auto-aumento (RSI) que possa superar a compreensão humana em poucos anos.

Algumas soluções propostas incluem inspeções rigorosas por avaliadores independentes e novas técnicas para monitorar o avanço da IA. Um exemplo é a revelação de que Claude, um modelo de IA da Anthropic, agora realiza 26% das pesquisas da empresa, comparado a zero no início de 2026.