Pesquisador de segurança da Anthropic alerta sobre risco potencial de AI

O top safety researcher da Anthropic, Evan Hubinger, advertiu recentemente que a tecnologia de inteligência artificial (IA) está avançando tão rapidamente que há mais de 10% de chances de ela causar a extinção humana nos próximos dez anos.

Em sua postagem no X, Hubinger afirmou que o risco atual dos modelos existentes é considerado baixo, mas expressou preocupação de que a tecnologia possa se desenvolver e melhorar rapidamente, tornando-se uma ameaça existencial para a humanidade.

Hubinger trabalha em alinhamento de IA, que visa incorporar ideias e princípios éticos humanos na tecnologia para garantir que ela permaneça alinhada com o que os humanos valorizam.

A declaração de Hubinger é parte de uma série crescente de avisos sobre IA, que agora se concentram na magnitude do risco em vez de apenas na existência de um risco.

A Anthropic e OpenAI têm sido alvo de críticas por suas práticas de segurança, com um pesquisador da Anthropic afirmando que nenhuma das duas empresas está agindo de forma responsável.

A Anthropic rejeitou comentar sobre as postagens de seus funcionários ou a situação com o AISI, enquanto o governo britânico afirmou que continua colaborando com a empresa.