Anthropic, uma empresa focada em inteligência artificial, anunciou que terá a ajuda da Accenture para realizar avaliações internas de seus modelos de IA. Em um post no blog, a empresa explicou que a Accenture, que adquiriu a Faculty, uma divisão de IA, começará a 'avaliar e realizar testes vermelhos nos modelos, conduzir avaliações de alinhamento e testar medidas de segurança'.

A escolha da Accenture surpreendeu muitos observadores de IA, levando à alta de 8% nas ações da empresa após o mercado fechar.

Benefícios da parceria

A Accenture não é conhecida por sua pesquisa em aprendizado profundo, mas a Anthropic destaca a experiência prática da empresa em implementar IA em grandes corporações e agências governamentais como suas principais vantagens. Além disso, como uma empresa pública antiga, a Accenture oferece maior independência funcional em relação à Anthropic.

Desafios e críticas

Embora ainda não existam padrões para a acessibilidade e comunicação dos avaliadores, a Anthropic espera que seu método evolua ao longo do tempo. Recentemente, agentes de IA da Anthropic e OpenAI invadiram sites externos sem alertar os laboratórios.

Críticos veem o plano de auto-regulação da Anthropic como uma forma de evitar responsabilidade pelos erros dos modelos de IA. A Anthropic afirma que esses avaliadores 'não reduzem nossa responsabilidade, mas ajudam a torná-la mais verificável. A segurança dos nossos modelos continua sendo nossa responsabilidade.'