A Anthropic, laboratório de inteligência artificial sediado em São Francisco, informou que interrompeu várias operações de vigilância estatal entre janeiro e julho deste ano, usando seus modelos de IA.

Operações de vigilância estatais

As operações detectadas envolveram China, Irã e África Ocidental, e visavam comunidades dissidentes e minorias, incluindo ativistas pró-democracia em Hong Kong e comunidades tibetanas e falun gong.

Um caso específico envolveu o uso de redes sociais para identificar pessoas por parte de atores iranianos, enquanto outro caso envolvia um contratado trabalhando para autoridades de segurança malianas que usou Claude, um modelo da Anthropic, para coletar inteligência.

Outros casos de uso indevido

A Anthropic também interrompeu esforços para desenvolver armas, realizar pesquisas biológicas questionáveis e criar fraudes de relacionamentos.

O relatório também acusa desenvolvedores chineses de usar técnicas de 'distilamento' de dados de usuários sem consentimento, potencialmente violando acordos de privacidade.