Recentemente, o laboratório Anthropic apresentou um novo projeto de lei sobre segurança de inteligência artificial (IA) que pode ser considerado pelo Congresso dos Estados Unidos. O projeto sugere cenários em que a liberação de um modelo de IA pode ser bloqueada.

A legislação estabelece que a liberação de um modelo de IA só pode ocorrer se não houver um ‘risco catastrófico iminente’, definido como a possibilidade de mais de 50 mortes ou danos materiais de mais de um bilhão de dólares. Esses riscos devem ser causados por armas biológicas, falhas de controle do desenvolvedor ou ataques cibernéticos.

Processo de avaliação

O projeto de lei prevê a utilização de avaliadores independentes registrados no Departamento de Comércio dos EUA para analisar os riscos potenciais de um modelo de IA. Estes avaliadores podem ser remunerados pela indústria de IA, desde que a remuneração não esteja condicionada ao resultado da avaliação.

Se os avaliadores identificarem um risco catastrófico iminente, eles têm 72 horas para informar ao Departamento de Comércio, que então solicitará uma decisão judicial para impedir a liberação do modelo.