Jack Clark, cofundador da Anthropic, uma das principais empresas de inteligência artificial (IA) do mundo, defendeu a necessidade de um ‘botão de desligamento’ para a IA, que possa ser verificado de forma independente.

Clark argumentou que a sociedade pode eventualmente querer regulamentar tal sistema para garantir o controle sobre os avanços tecnológicos. Ele afirmou que a maioria dos laboratórios já possui métodos para desligar os equipamentos, mas que os legisladores podem precisar impor a existência de um desses métodos.

Desafios e preocupações

A rápida evolução da IA e os receios sobre os riscos associados à tecnologia foram destacados por executivos e funcionários de outras empresas de IA. O diretor-executivo da Anthropic, Dario Amodei, pediu que o ritmo de desenvolvimento da IA seja desacelerado e monitorado mais de perto.

Alguns especialistas, como o cientista da computação Geoffrey Hinton, consideram a possibilidade de extinção da humanidade devido à IA como uma probabilidade real, embora discreta.