A indústria de inteligência artificial (IA) está em discussão intensa sobre se suas tecnologias representam uma ameaça existencial para a humanidade.

Este debate surgiu após o pesquisador Jacob Coxon anunciar sua saída da Anthropic, afirmando que as principais empresas de IA estão 'apostando nossas vidas'. Em resposta, um líder de alinhamento da Anthropic declarou: 'Realmente acreditamos que a IA pode matar todos os humanos!'. Ele acrescentou que a probabilidade de tal evento ocorrer é maior do que 10% nos próximos dez anos.

Conversas sobre os riscos

No mais recente episódio do podcast Equity da TechCrunch, Kirsten Korosec, Sean O’Kane e Anthony Ha discutiram esses alertas apocalípticos. Anthony Ha questionou a validade dessas narrativas de 'doom', argumentando que a afirmação de que a IA pode destruir a humanidade não é necessariamente uma declaração monolítica da comunidade de pesquisa de IA.

Sean O’Kane observou que essas preocupações podem influenciar o processo de apresentação pública da Anthropic, sugerindo que advogados podem precisar revisar certas seções do documento de apresentação inicial (S-1).