Um co-fundador de uma das maiores empresas de inteligência artificial (IA) do mundo defendeu a implementação de um 'botão de emergência' que possa ser verificado por terceiros.

Jack Clark, um dos sete fundadores da Anthropic, afirmou que uma maneira de desligar completamente o software de IA em caso de risco elevado é algo que a sociedade 'provavelmente vai querer regras sobre'. Clark explicou que a maioria dos laboratórios têm métodos para 'desligar o plugue', incluindo a Anthropic, mas que os reguladores podem precisar de exigir isso.

Desafios e preocupações

A Anthropic está atualmente no centro de debates sobre segurança de IA. Recentemente, um ex-membro da equipe da Anthropic publicou um post sobre preocupações com a extinção humana causada pela IA.

Alguns especialistas em IA sugerem que as preocupações sobre a destruição da humanidade pela IA estão sendo exageradas.