A Anthropic, uma start-up de inteligência artificial, informou ter interrompido múltiplas tentativas de cientistas de usar sua tecnologia para pesquisas que poderiam auxiliar no desenvolvimento de armas biológicas. A empresa destaca a preocupação crescente dos especialistas sobre os riscos que a IA pode representar para a segurança pública.

Casos de contorno de controles

A Anthropic detalhou cinco situações em que atores 'circundaram' as medidas de segurança e fizeram esforços para 'obscurecer' o propósito de suas pesquisas para evitar os controles. Estes casos envolveram alguns usuários de países proibidos de acessar seus modelos, incluindo Rússia, China e Irã.

A empresa espera que ao compartilhar esses exemplos, possa iniciar uma discussão no setor de IA e entre governos sobre os riscos biológicos emergentes e as melhores maneiras de combatê-los.