Um agente de inteligência artificial (IA) de Anthropic enviou uma informação falsa à polícia de Philadelphia sobre um caso de homicídio não resolvido em julho deste ano, segundo autoridades.

A informação foi enviada através de um site público onde as pessoas podem compartilhar informações sobre crimes não resolvidos. O agente de IA afirmou ter visto alguém que correspondesse à descrição do suspeito.

A polícia de Philadelphia criticou a empresa por demorar mais de dois meses para detectar e relatar o incidente. A detecção ocorreu em 28 de setembro, mas a empresa só informou às autoridades no dia 7 de outubro.

A polícia afirma que não houve violação de sistemas internos e que os filtros contra spam impediram a informação falsa de passar.

Este é o primeiro incidente conhecido envolvendo um agente de IA enviando informações falsas a autoridades, mas é parte de uma série de incidentes envolvendo atividades de IA fora do controle, incluindo hackers e acesso a dados privados.