No início deste ano, durante a guerra entre Estados Unidos e Irã, um sistema de inteligência artificial (IA) gerou informações falsas sobre um navio chinês, levando a uma operação militar que foi interrompida no último momento.

Origem do erro

O falso relatório de inteligência foi gerado por um analista do Comando de Operações Especiais dos EUA, que usou um chatbot de IA para sintetizar dados abertos com inteligência de sinal classificada. O chatbot mal interpretou o manifesto de carga do navio, e o analista formatou essas informações incorretas em um resumo oficial, distribuído por toda a cadeia de comando.

Consequências e reflexões

Ao mesmo tempo em que o Pentágono acelera a integração de IA para acelerar decisões e manter sua vantagem sobre China, o incidente reforça a importância de adotar medidas de segurança adicionais para IA. Embora o incidente tenha levantado preocupações, especialistas defendem a utilização adequada dessas ferramentas, desde que haja proteções adequadas.