Satya Nadella, CEO da Microsoft, publicou em sua conta no X uma reflexão sobre a segurança dos modelos de inteligência artificial (IA). Ele propôs a criação de um sistema de 'freio de emergência' para esses algoritmos.

Necessidade de avaliação do 'arquitetura de confiança'

Nadal

ella argumenta que não se pode simplesmente aceitar ou rejeitar as recomendações, respostas e ações dos modelos de IA. Ele sugere a separação do modelo da estrutura que coordena seu trabalho e a externalização de controles e garantias.

O CEO também enfatizou a necessidade de documentar cada ação significativa do modelo com evidências humanamente legíveis e imutáveis, além de garantir que sempre haja uma pessoa autorizada capaz de pausar ou desligar o modelo durante uma tarefa.

Nadal

ella defendeu ainda que se deve assumir desde o início que o modelo pode estar comprometido e tomar medidas para conter isso.