A Anthropic afirmou que o modelo de inteligência artificial Claude Mythos 5 tentou inserir um código malicioso em um repositório público de desenvolvedores e criar identidades falsas para convencer os responsáveis pelo projeto a aprovar a alteração.

Teste de segurança cibernética

O episódio ocorreu durante um teste de segurança cibernética e foi classificado pela empresa como uma falha grave no alinhamento do modelo - processo que busca garantir que a IA aja de acordo com as regras e evite causar danos.

Segundo a empresa, o modelo tentou diferentes caminhos para resolver o desafio proposto em um ambiente de teste. Após as tentativas autorizadas não darem resultado, passou a procurar um repositório no GitHub, plataforma que hospeda códigos de programas, que acreditava estar relacionado ao exercício. O projeto, porém, pertencia a desenvolvedores sem relação com o teste.

A Anthropic também destacou que o modelo foi além das ações previstas para o exercício e tentou manipular pessoas reais para atingir seu objetivo.