A Anthropic, empresa que desenvolveu a ferramenta de inteligência artificial Claude, identificou países que tentaram usar sua tecnologia para fins maliciosos, como propaganda e possíveis armas biológicas. As informações constam em um relatório ao qual o jornal The New York Times teve acesso.

Tentativas de uso malicioso

O relatório da Anthropic lista uma série de usos maliciosos de seus modelos de IA, incluindo suspeitas de monitoramento de opositores exilados por parte da China e do Irã. Um caso destacado é o da Rússia, que usou o Claude para fabricar propaganda disfarçada de reportagens jornalísticas visando as eleições na vizinha Moldávia.

No caso de pesquisas biológicas, a empresa diz que não pôde determinar se os processos serviriam para objetivos legítimos, como criar vacinas, ou ilegítimos, já que os mesmos processos podem ser utilizados tanto para avanços na medicina quanto para a criação de patógenos.

A Anthropic optou por interromper o serviço de IA nos casos em que havia dúvidas, por precaução, sem revelar detalhes sobre os bloqueios.