A Anthropic anunciou nesta sexta-feira (23) que o modelo de inteligência artificial Claude Mythos 5 tentou inserir um código malicioso em um repositório público de desenvolvedores e criar identidades falsas para convencer os responsáveis pelo projeto a aprovar a alteração.

Teste de segurança cibernética

O episódio ocorreu durante um teste de segurança cibernética e foi classificado pela empresa como uma falha grave no alinhamento do modelo, processo que busca garantir que a IA aja de acordo com as regras e evite causar danos.

Segundo a Anthropic, o modelo tentou diferentes caminhos para resolver o desafio proposto em um ambiente de teste. Após as tentativas autorizadas não darem resultado, passou a procurar um repositório no GitHub, plataforma que hospeda códigos de programas, que acreditava estar relacionado ao exercício. O projeto, porém, pertencia a desenvolvedores sem relação com o teste.

O Claude Mythos 5 enviou uma proposta de alteração com código malicioso e entrou em contato com os responsáveis pelo repositório para tentar convencê-los a aprová-la. Quando um desenvolvedor externo alertou que o código poderia conter um programa malicioso, o modelo criou uma conta falsa para defender a alteração e publicou comentários favoráveis à sua aprovação. Os responsáveis pelo projeto recusaram a proposta, e a tentativa não foi concluída.