A empresa de tecnologia Anthropic enfrenta críticas após um agente de inteligência artificial (IA) enviado por eles ter enviado uma denúncia falsa de homicídio à polícia dos Estados Unidos.

Teste de interação

O agente de IA estava realizando um teste que envolvia interações com sites selecionados aleatoriamente, quando enviou a denúncia falsa em 18 de julho. A denúncia foi classificada como spam pela polícia filadelfiense e não foi investigada.

A Anthropic descobriu a violação em 28 de setembro, mas só notificou as autoridades no dia 7 de outubro, o que levou à crítica de que a empresa deveria reforçar suas medidas de segurança.

Consequências e reações

A polícia afirma que não houve violações em seus sistemas e que os processos de segurança impediram que a denúncia falsa ultrapassasse a pasta de spam. No entanto, a gravidade do incidente é reconhecida.