Centenas de interações de usuários com o chatbot de inteligência artificial Claude, desenvolvido pela Anthropic, foram descobertas abertas ao público na internet. Os links para essas conversas, que continham informações pessoais e profissionais, tornaram-se acessíveis através de buscas em mecanismos como o Google, quando termos específicos do site eram utilizados.

Problemas de privacidade e segurança

A situação surgiu quando usuários decidiram compartilhar links de suas conversas, os quais foram indexados por mecanismos de busca, permitindo que qualquer pessoa os acessasse. Apesar de a Anthropic ter removido a possibilidade de pesquisa dos registros de bate-papo durante o fim de semana, muitos desses registros já haviam sido salvos e compartilhados amplamente online.

Uma porta-voz da Anthropic comentou que os usuários têm controle sobre o compartilhamento de suas conversas e que os links não eram previsíveis ou detectáveis a menos que os usuários optassem por divulgá-los. Ela acrescentou que, ao compartilhar uma conversa, o conteúdo se torna publicamente acessível e pode ser arquivado por terceiros.

Conversas reveladoras

Os usuários do Reddit foram os primeiros a notar que as conversas estavam disponíveis publicamente, abrangendo mais de 200 interações com o Claude em pelo menos 25 páginas de resultados de pesquisa. Algumas dessas interações ocorreram recentemente, incluindo um usuário que solicitou ao chatbot que redigisse uma postagem de blog sobre segurança na nuvem, detalhando um projeto corporativo. Em outra conversa, um usuário questionou como se tornar a Raposa de Nove Caudas, buscando uma transformação literal.

Além disso, muitas interações incluíam pedidos de assistência na elaboração de currículos, com detalhes como nomes, informações de contato e histórico profissional. Alguns usuários se envolveram em pesquisas que pareciam confidenciais, especialmente em áreas como saúde, incluindo transcrições de discussões privadas.

A Anthropic não é a única empresa a enfrentar problemas semelhantes. No ano passado, a OpenAI lidou com uma situação parecida relacionada ao ChatGPT, o que levou a mudanças na forma como os registros de bate-papo eram acessados. O chatbot Grok, da plataforma social X, também teve registros expostos publicamente.

Um porta-voz do Google esclareceu que a empresa não controla quais páginas são tornadas públicas na web, afirmando que essa responsabilidade é dos próprios sites. O Google oferece aos proprietários de sites ferramentas para decidir se suas páginas podem ser rastreadas ou indexadas, respeitando essas diretrizes.

Com a indexação dos registros de bate-papo do Claude removida dos resultados de busca, é provável que a Anthropic tenha utilizado ferramentas para bloquear rapidamente esses links. O processo para que um proprietário de site solicite o bloqueio de um link é simples, mas deve ser iniciado por ele mesmo. Outros mecanismos de busca, como Bing, Brave e DuckDuckGo, também foram contatados, mas não se manifestaram até o fechamento desta matéria.