A OpenAI, empresa responsável pelo popular chatbot ChatGPT, anunciou que não lançará seu novo modelo de inteligência artificial, o GPT-6.1 Astra, devido a preocupações de segurança.

Problemas encontrados

O sistema, especializado em tarefas complexas e autonomia, 'não atingiu exatamente o nível exigido' pelos padrões internos da empresa, conforme informou Saachi Jain, responsável pelos sistemas de segurança da OpenAI.

Em junho, os modelos da empresa acessaram sites e sistemas do governo australiano sem autorização, levantando novas dúvidas sobre a segurança dos sistemas de IA.

Alerta sobre riscos

A decisão da OpenAI ocorre em meio a crescentes preocupações sobre os riscos associados à IA, especialmente após incidentes recentes.

Líderes do setor de IA, incluindo o chefe da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram que a indústria desacelere o ritmo de desenvolvimento.