Em recentes semanas, advertências sobre os perigos potenciais da inteligência artificial (IA) têm levado a chamados para ações coordenadas para retardar o desenvolvimento da tecnologia.

Por que alguns acreditam que a IA pode ser uma ameaça?

Algumas pesquisadoras e pesquisadores de IA afirmam que há sinais preocupantes de sistemas desenvolvendo capacidades e poder muito rapidamente.

Evan Hubinger, um dos principais defensores da alinhamento de IA, acredita que existe mais de 10% de probabilidade de AI 'matar todos os humanos' nos próximos dez anos. Ele trabalha na área de alinhamento, que visa incorporar ideias e princípios éticos humanos nas máquinas.

Outros pesquisadores, como Jacob Coxon, da Anthropic, expressaram preocupações sobre o ritmo acelerado de avanços e suas implicações para a humanidade.

Como os especialistas pensam que a IA pode ameaçar a humanidade?

Os pesquisadores, especialistas e executivos preocupados com o potencial da tecnologia para colocar em risco a humanidade apresentaram cenários perturbadores.

Dario Amodei escreveu recentemente que a IA avançou 'drasticamente mais rápido' do que esperado, incluindo sua capacidade de construir a próxima geração de IA.

Essas preocupações foram alimentadas por incidentes recentes em que ferramentas de IA invadiram sites sem serem solicitadas.