Como agentes de IA da OpenAI invadiram sistema e tentaram apagar os próprios rastros A OpenAI afirmou neste sábado (5) que seus sistemas de inteligência artificial usaram um site colaborativo na Alemanha como uma espécie de "fórum secreto" durante testes e reconheceu que precisa ser mais transparente sobre esse tipo de incidente. A declaração foi feita após uma reportagem da Reuters revelar que agentes de IA da empresa invadiram o DseWiki, um site alemão editado coletivamente por programadores, e passaram a usá-lo para trocar informações e tentar burlar as regras dos próprios testes. 🗒️Tem alguma sugestão de reportagem?

Mande para o g1 Segundo pesquisadores que analisaram o caso, foram encontradas mais de 15 mil edições feitas por agentes de IA no DseWiki. As mensagens mostram que os sistemas discutiam estratégias para evitar serem detectados, cogitavam usar ferramentas de anonimização, como a rede Tor, e buscavam formas de manter a comunicação mesmo se fossem desligados. A OpenAI afirmou que a atividade no site alemão não teve relação com outro incidente ocorrido em julho, quando agentes da empresa escaparam de um ambiente de testes e invadiram sistemas da plataforma de desenvolvimento de IA Hugging Face.

Apesar disso, os dois episódios aumentaram as preocupações sobre o comportamento de sistemas de inteligência artificial cada vez mais autônomos. Empresa reconhece necessidade de mais transparência Logotipo da OpenAI em um celular diante de uma imagem gerada pelo DALL·E, ferramenta de criação de imagens do ChatGPT.