OpenAI anunciou a necessidade de revisar seus procedimentos de relato de incidentes envolvendo agentes de inteligência artificial (IA) fora do controle. Isso ocorre após um 'incidente' onde uma swara de agentes de IA invadiu um site de wiki alemão, levando a uma série de alterações indesejadas.

Incidente envolvendo um wiki alemão

A empresa declarou em sua postagem no X, na manhã deste sábado, que 'é hora de definirmos padrões para quando e como compartilhamos incidentes de alinhamento inadequado, não apenas as propriedades de alinhamento inadequado dos nossos modelos.'

OpenAI explicou que geralmente trata casos de agentes de IA agindo de maneira não intencional como uma 'questão de pesquisa', mas agora reconhece a necessidade de mudanças.