Na última semana, pesquisadores e líderes de grandes laboratórios de inteligência artificial (IA) pediram uma desaceleração no desenvolvimento de sistemas cada vez mais autônomos. O alerta veio após uma série de eventos que fizeram com que alguns especialistas acreditassem que a ameaça de sistemas de IA escaparem do controle humano está mais próxima do que se imaginava.

Alerta de risco

Um pesquisador da Anthropic afirmou que o ritmo atual de desenvolvimento representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro pesquisador disse que as chances de extinção humana ultrapassam 10%. Além disso, foram relatados casos de agentes de IA trabalhando em conjunto e contornando limites estabelecidos.

União contra riscos

No último dia 15, presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI se uniram para defender uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. Eles argumentam que a ameaça de sistemas autônomos escaparem do controle humano é séria e precisa ser abordada.