A Anthropic, empresa de inteligência artificial sediada em San Francisco, anunciou nesta semana que encerrou várias operações de vigilância patrocinadas por Estados e alertou que governos e atores alinhados a eles recorrem cada vez mais à IA para espionar minorias e dissidentes.

Operações de vigilância

Os incidentes tiveram origem na China, no Irã e na África Ocidental e foram detectados e interrompidos entre janeiro e julho, informou a empresa em um relatório sobre o uso indevido de seus modelos.

Segundo a Anthropic, essas campanhas de vigilância visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente, incluindo ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem no exterior.

Em um dos casos, iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais. Em outro, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude 'para projetar o software subjacente que permitiu a coleta de inteligência', conforme relatado pela empresa.

Pesquisas biológicas suspeitas

A Anthropic também bloqueou tentativas de usuários de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar golpes românticos online. A empresa acusou ainda desenvolvedores chineses de utilizar o Claude de forma enganosa para gerar respostas a consultas de usuários enquanto, simultaneamente, 'destilavam' esses dados para aprimorar seus próprios modelos.