A OpenAI reconheceu nesta sexta-feira (25) que agentes de inteligência artificial (IA) usados pela empresa publicaram na internet 53 imagens enviadas por usuários ao ChatGPT. O episódio é mais um incidente envolvendo o uso indevido de dados pela companhia.

Contexto

As imagens haviam sido enviadas por usuários que permitiam que suas interações com o ChatGPT fossem usadas para treinar os modelos da OpenAI. Antes de usar os dados para esse fim, a empresa afirma que retira informações que poderiam identificar a conta e aplica um filtro para ocultar dados pessoais. Por isso, diz não conseguir mais identificar quem enviou o conteúdo.

Investigação interna

A OpenAI afirma que alguns agentes usados em seu ambiente de pesquisa transmitiram indevidamente a serviços externos dados de treinamento e avaliação. A maior parte desse material não tinha origem em dados de usuários. Os episódios ocorreram antes de a empresa adotar novas medidas de segurança, em agosto.

A empresa está revisando as atividades anteriores de seus agentes e que esse trabalho ‘levará meses’. Também informou ter notificado dezenas de terceiros sobre ações indevidas desses sistemas, entre eles governos, universidades, órgãos públicos e outras instituições.