Anthropic anunciou a escolha da consultoria Accenture para avaliar a segurança de seus modelos de inteligência artificial (IA), um passo importante na implementação de um plano proposto pelo CEO Dario Amodei para retardar o desenvolvimento da IA.

A parceria inclui uma investida conjunta de pelo menos US$ 1 bilhão por parte de cada empresa ao longo dos próximos cinco anos, com a Accenture assumindo o papel de avaliador independente.

Objetivo da parceria

Ao integrar a Accenture, Anthropic busca garantir que práticas de segurança e compromissos estabelecidos sejam seguidos, incidentes sejam relatados e alinhamentos dos modelos de IA sejam avaliados. A consultoria será responsável por observar o desenvolvimento dos modelos, acompanhar decisões de construção e implantação e interagir diretamente com os funcionários.

A Accenture possui experiência em ajudar empresas e governos a implantar IA em diversos setores, o que oferece uma perspectiva adicional sobre os modelos de Anthropic.

Outros avaliadores

Para diversificar a avaliação, Anthropic planeja trabalhar com outras empresas além da Accenture. A empresa anunciará outros avaliadores nos próximos meses, mantendo a ideia de que a Accenture também colaborará com outras companhias de IA.