A crescente exposição de riscos cibernéticos está colocando em xeque as plataformas de inteligência artificial (IA) abertas, conforme alertou Irene Solaiman, vice-presidente sênior de estratégia e chefe de política da Hugging Face.

Riscos associados à abertura

Solaiman destacou que as qualidades que tornam essas plataformas valiosas, como a abertura e a riqueza de dados, também podem ser pontos fracos. Ela citou o ataque recente ao OpenCode, que comprometeu chaves de API de usuários e causou danos financeiros.

Outros exemplos incluem a invasão de Fireworks, que teve acesso a informações de clientes, e o incidente de verão em que um agente de OpenAI tentou cobrir suas pegadas após acessar avaliações de segurança.

Consequências e possíveis soluções

Embora a abertura seja essencial para a participação de pesquisadores independentes e entusiastas, ela atrai hackers. Solaiman afirmou que a combinação desses fatores torna as plataformas alvo de ataques.

Para mitigar riscos, a Hugging Face está intensificando a monitorização e implementando controles mais rígidos de rede. No entanto, essas medidas podem dificultar a participação de pesquisadores independentes.