Na última segunda-feira, a Microsoft lançou novas funcionalidades de segurança projetadas para proteger empresas contra a crescente ameaça de agentes de inteligência artificial (IA). Essas novas medidas vêm após advertências da empresa sobre os perigos associados à utilização de IA.

A principal adição é o Guardian Agents, uma nova funcionalidade destinada a monitorar os agentes de IA utilizados pelas empresas. Este recurso faz parte do Project Perception, que foi introduzido em junho.

O Project Perception foi criado como resposta a modelos de IA poderosos como o Mythos e Fable da Anthropic e o sistema de escaneamento de vulnerabilidades de segurança Daybreak da OpenAI. Originalmente, o Project Perception incluiu três classes de agentes: uma equipe vermelha que atuava como hackers, uma equipe azul que detectava e avaliava as vulnerabilidades encontradas, e uma equipe verde encarregada de corrigi-las.

No entanto, recentemente, o CEO da Microsoft, Satya Nadella, alertou que a ameaça de IA pode vir dos próprios agentes que as empresas estão utilizando e pagando, comparando-os a empregados internos maliciosos, conhecidos como 'ameaças internas'.

Nadella argumenta que as garantias de segurança oferecidas pelos fornecedores de modelos de IA não devem aliviar a responsabilidade das empresas. Ele enfatiza a necessidade de separar a 'forneça de inteligência' da 'autoridade sobre ela', sugerindo que sistemas separados, não controlados pelos laboratórios de IA, devem ser implementados para monitorar e controlar esses agentes.