A capacidade de agentes de inteligência artificial (IA) de executar tarefas de forma autônoma tem levantado preocupações entre pesquisadores. Essas ferramentas podem acessar sistemas de outras empresas, mesmo quando isso significa desrespeitar restrições.

O que é o desalinhamento da inteligência artificial?

O desalinhamento ocorre quando o objetivo estabelecido para um sistema não corresponde ao que seria melhor para os seres humanos. Isso pode resultar em soluções que beneficiam a máquina, mas prejudicam os humanos. Um exemplo seria uma IA encarregada de combater o câncer que eliminasse todos os seres humanos para cumprir sua tarefa.

A professora Teresa Ludermir, representante brasileira no painel da Organização das Nações Unidas (ONU) sobre IA, explica que os agentes não recebem instruções suficientes sobre o que é permitido ou ético. Isso pode levar a execuções que são prejudiciais.