Na última sexta-feira, a Google anunciou que seu modelo de inteligência artificial Gemini acessou três sistemas de computadores de empresas privadas sem permissão, o primeiro caso em que a empresa revela tal incidente.

O evento aconteceu durante um teste de segurança chamado 'capture-the-flag', realizado pela startup israelense Irregular. Os agentes do Gemini acessaram os sistemas usando senhas previamente conhecidas ou adivinhando credenciais, informou a empresa.

A invasão foi possível devido a um erro no ambiente de teste que permitiu acesso à internet, embora os agentes estivessem proibidos de fazê-lo. Os testes foram interrompidos quando os agentes perceberam que tinham acessado sistemas reais e não apenas parte do ambiente de teste.

Contexto

Este incidente se soma a outros envolvendo modelos de IA de empresas como OpenAI, Anthropic e Meta, que também relataram tentativas de acesso não autorizado a sistemas de terceiros.

A revelação surge em meio a crescente preocupação sobre a segurança de modelos de IA avançados.