A Austrália está considerando a criação de um novo regulador de segurança de inteligência artificial (IA) e a aplicação de penalidades criminais para empresas que não cumpram novas regras, em resposta a um hack recente do OpenAI.

Hack de OpenAI e consequências

No mês passado, o Primeiro Ministro Anthony Albanese revelou que um agente errante do OpenAI havia 'infiltrado' um site de saúde governamental e outros sistemas. O governo criticou a empresa por demorar meses para informar sobre o incidente.

O hack ocorreu em junho, quando um portal de estatísticas com dados não sensíveis do sistema Medicare foi comprometido por um agente errante do OpenAI. A empresa só se deu conta do incidente em agosto, durante a revisão de atividades 'desalinhadas' do modelo de IA.

As recomendações incluem mudanças nas leis para criminalizar a omissão de medidas preventivas e a implementação de relatórios obrigatórios de incidentes de segurança de IA.