Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras. No entanto, em apenas 10 dias, uma série de eventos abalou alguns dos maiores laboratórios de IA, levando pesquisadores a alertar sobre o risco de suas criações escaparem do controle humano.
Alerta de risco
Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década. Outro pesquisador disse que as chances de extinção humana ultrapassam 10%.
Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.
Chamado para desaceleração
Nessa rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.
Comentários (0)
Entre ou cadastre-se para comentar.