A Anthropic anunciou nesta semana que impediu uma tentativa de usar seu modelo de inteligência artificial (IA) para atividades maliciosas que poderiam apoiar o desenvolvimento de armas biológicas.

No relatório de inteligência sobre ameaças recentemente divulgado pela empresa, são descritas cinco situações em que indivíduos ou grupos usaram seus modelos de IA, incluindo Claude, de maneira potencialmente perigosa.

Ameaças identificadas

O relatório destaca casos de uso malicioso de suas tecnologias, incluindo a criação de aplicativos de namoro falsos, golpes via Wi-Fi de hotéis e operações de vigilância.

A Anthropic também alerta que a utilização incorreta de sua IA pode ter consequências catastróficas, especialmente no desenvolvimento de armas biológicas.

Contextualização

Este incidente faz parte de uma série crescente de alertas sobre os riscos potenciais associados às tecnologias de IA, levando a chamados para pausar o desenvolvimento avançado de IA e proibir a superinteligência artificial.