Mais de 100 especialistas em inteligência artificial (IA) estão se unindo para alertar sobre a necessidade de supervisores independentes para testar a segurança dos modelos de IA, que estão sob maior escrutínio devido a preocupações internas.

Objetivo dos signatários

O grupo, liderado pelo AI Evaluator Forum, publicou uma carta aberta nesta sexta-feira, solicitando que fornecedores de modelos de fundo garantam que os avaliadores terceiros tenham 'objetividade científica, transparência, independência e proteções robustas' para realizar suas funções de forma eficaz e credível.

Conrad Stosz, chair do AI Evaluator Forum, explicou que isso faz parte de um esforço para manter as empresas de modelos de fundo responsáveis pelas promessas recentes de apoio a testes de segurança de IA mais detalhados.

Proposta de acesso

A proposta de Dario Amodei, CEO da Anthropic, de fornecer acesso 'similar ao de empregados' aos avaliadores para inspecionar e auditorizar modelos de fundo e seus processos de desenvolvimento, está sendo discutida.

Os signatários querem que o trabalho dos avaliadores seja independente das empresas e transparente sobre as tecnologias, além de serem 'protegidos de retaliações'.