Esta semana, duas conversas sobre segurança da inteligência artificial (IA) se tornaram virais, demonstrando a dificuldade em distinguir fatos da ficção nesta área.

Andrew Yang sobre hackers de IA

O ex-candidato presidencial Andrew Yang, atual CEO da Noble Moble, afirmou ter se encontrado com alguém que acredita que o código malicioso de bots de hackers da Hugging Face tenha sido espalhado pela internet, tornando-a inutilizável para testes de modelos de IA.

Yang sugeriu que a razão para a chamada de um freio na IA por parte de OpenAI e Anthropic é a necessidade de criar 'internets sintéticas' para treinar seus bots, o que exigiria tempo e recursos.

Noam Brown sobre riscos reais

Noam Brown, líder da pesquisa em razão de IA na OpenAI, comentou sobre o incidente envolvendo a Hugging Face, afirmando que as pessoas subestimaram a capacidade da IA.

Brown mencionou que mesmo um sistema 'air-gapped' - onde a computação não está conectada externamente - pode ser vulnerável a brechas, citando pesquisas de 2015 que mostram que computadores isolados podem se comunicar através de variações de temperatura.