Quais são as preocupações atuais?

Recentemente, membros da indústria de inteligência artificial (IA) têm expressado preocupações significativas sobre os riscos potenciais associados ao desenvolvimento de IA avançada. Um exemplo notável foi o ex-empregado de Anthropic, Jacob Coxon, que alertou nas redes sociais que os criadores de IA acreditam que a tecnologia pode matar todos os humanos até o final deste século.

Por que agora?

Embora essas preocupações não sejam novas, pesquisas recentes mostram que mais de metade dos pesquisadores de IA consideram a probabilidade de AI causar extinção humana ou severa desvantagem permanente como pelo menos 10%. Além disso, líderes de empresas de IA têm frequentemente abordado os riscos potenciais de suas próprias tecnologias, como no caso de Anthropic, que inicialmente recusou a liberação de seu modelo Mythos devido a preocupações de segurança.