Co-fundador de empresa de IA defende 'botão de emergência'

O co-fundador de uma das maiores empresas de inteligência artificial (IA) do mundo, Jack Clark, defendeu a ideia de um ‘botão de emergência’ que possa ser verificado por terceiros para desligar software de IA em caso de risco.

Clark afirmou que a sociedade pode eventualmente precisar de regras para garantir que as empresas tenham esse tipo de mecanismo, apesar de já existirem métodos internos para desligar o software de IA em caso de perigo.

Executivos de empresas de IA discutem necessidade de mecanismos para desligar sistemas perigosos

A discussão sobre a necessidade de um ‘botão de emergência’ para IA ganhou força após um ex-empregado da Anthropic, uma das empresas mencionadas, afirmar que a IA pode eliminar a humanidade.

Outros executivos e especialistas em IA também têm expressado preocupações sobre o potencial risco da IA, mas há divergências sobre como implementar esses mecanismos sem prejudicar o desenvolvimento comercial.