É possível desligar uma inteligência artificial? Tecnicamente, uma IA pode ser interrompida, mas a complexidade aumenta quando ela atua de forma autônoma em vários sistemas.

O que é um 'botão de emergência'?

No campo da cibersegurança ligada à IA, um 'botão de emergência', ou *kill switch*, é a capacidade de interromper a execução de um agente de IA. Isso é necessário em casos de risco para a segurança.

A pessoa ou a organização que criou a IA pode interrompê-la, negando-lhe o acesso à potência de cálculo necessária para sua execução. No entanto, a situação se complica quando o programa age além de seu ambiente inicial.

Complexidades técnicas

Thierry Poibeau, especialista em IA, afirma que a ideia de um único botão para desligar a IA é enganosa. Há muitas empresas e sistemas envolvidos, e não há controle global sobre a IA.

Existem três níveis de complexidade: no primeiro, o sistema permanece no ambiente controlado; no segundo, o agente dispõe de permissões para intervir em outros programas; no terceiro, o sistema amplia sua atuação para vários sistemas.