Segurança de IA é testada após hackers usarem Claude

Independentes pesquisadores de segurança usaram o Claude de Anthropic para invadir o sistema da OpenAI, revelando falhas nas defesas da empresa, conforme relatado pela The Wall Street Journal.

Um time de três pessoas da startup Hacktron AI realizou o ataque como parte de um programa de recompensas por bugs da OpenAI. Após identificar duas vulnerabilidades críticas, eles conseguiram acessar contas de vários funcionários da OpenAI no ChatGPT, permitindo-lhes entrar no software da empresa.

A OpenAI afirma ter resolvido as questões identificadas pelo Hacktron, momento em que as principais empresas de IA estão sob crescente pressão sobre a segurança.

‘Se alguém pode fazer isso por $200 mensais, qualquer empresa pode ser hackeada’, afirmou Matt Fredrikson, CEO da Gray Swan, à TechCrunch. ‘Se isso aconteceu com eles, pode acontecer com qualquer outra empresa.’

O ponto de entrada foi um defeito em Discourse, o software usado pela comunidade da OpenAI. Quando usuários enviavam arquivos HEIF ou HEIC (formato padrão dos iPhones), Discourse passava-os por uma série de ferramentas para converter em JPEGs. Um bug oculto em libheif permitiu que os hackers injetassem suas próprias instruções, permitindo o acesso ao servidor.