Jakub Pachocki, chief scientist do OpenAI, chamou atenção para os riscos associados ao rápido avanço da inteligência artificial (IA) e defendeu a necessidade de cautela.

No blog post intitulado 'An Alien Mind, external', Pachocki expressou preocupação com a falta de preparo para as consequências de um aumento acelerado da inteligência das máquinas. Ele destacou que a empresa continuará a desenvolver sistemas defensivos e buscar soluções técnicas para alinhamento, termo usado para descrever a harmonia entre as ações e objetivos dos sistemas de IA e a intenção humana.

Desafios regulatórios

A regulamentação global está em dificuldade para acompanhar o ritmo de desenvolvimento da IA. O AI Act da União Europeia entrou em vigor em 2 de agosto, exigindo que as gigantes de IA como o OpenAI demonstrem que seus modelos mais poderosos não podem realizar ataques cibernéticos autonomamente ou evadir o controle humano antes de serem comercializados na Europa.

No entanto, como a jurisdição da lei se limita à Europa, ela não pode impedir ações de IA maliciosas desenvolvidas em outros lugares de ameaçar o continente.

Pachocki propôs a criação de um conjunto mínimo de requisitos de segurança legal ou internacionalmente obrigatório, que poderiam ser verificados por uma rede de auditores terceiros ou agências governamentais.