A empresa Anthropic flagrou e interrompeu múltiplos casos de cientistas que utilizaram seus modelos de inteligência artificial (IA) para criar possíveis armas biológicas, conforme relatado nesta quinta-feira.

O relatório da Anthropic documenta cinco casos de uso indevido de seus modelos, incluindo medidas de segurança que levaram ao descobrimento dessas atividades e as respostas da empresa.

Caso de maio envolve vírus chikungunya

No caso mais recente, em maio, a 'classificação de segurança biológica' da Anthropic detectou uma solicitação para que o Claude autorizasse um projeto de pesquisa sobre a transmissibilidade e evasão imunológica do vírus chikungunya, um vírus sem tratamento atualmente.

Outros casos incluíram pesquisa de função de ganho sobre o vírus da gripe avia e o desenvolvimento de atlas de toxinas venenosas.

Responsabilidade e privacidade

A Anthropic afirma que qualquer usuário que violou as diretrizes teve sua conta banida. A empresa também está melhorando suas medidas de segurança para prevenir futuros incidentes.

Em relação às identidades dos envolvidos, a Anthropic informa que os indivíduos são pesquisadores e que não se alega intenção de causar dano.