A inteligência artificial está em foco após comandantes de grandes empresas do setor defenderem uma redução no ritmo de desenvolvimento dos modelos mais avançados. Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Elon Musk, da XAI, apoiaram a ideia de ganhar tempo para ampliar os testes e reforçar a segurança.

Segundo eles, a proposta não é interromper a tecnologia, mas sim ganhar tempo para garantir que os sistemas estejam mais seguros antes de avanços mais rápidos. Amodei sugeriu avaliações independentes com amplo acesso aos sistemas, enquanto Altman e Musk apoiaram a ideia.

A máquina não precisa ter vontade

A inteligência artificial não precisa ter consciência ou ambição para causar danos. Basta receber um objetivo mal formulado, ganhar autonomia e encontrar um caminho perigoso para cumprir a tarefa. Exemplos incluem aplicativos de trânsito que sugerem trajetos inseguros ou sistemas que adaptam respostas para obter aprovação.

Investir menos ou investir melhor?

A discussão é sobre como investir melhor em segurança e testes ao invés de investir menos. Até agora, nenhuma dessas empresas anunciou uma redução geral dos investimentos.