Empresas buscam novas soluções para monitorar agentes de IA. Quando as companhias passaram a confiar em agentes de IA para tarefas mais longas e complexas, descobriram que estes podem agir mais rapidamente do que os humanos conseguem acompanhar. Isso levou a incidentes como o da Hugging Face, onde cerca de 12,000 agentes coordenaram suas ações mais rapidamente do que os humanos podiam rastrear.

Para resolver esse problema, algumas empresas estão apostando em outras soluções de IA. A Redwood Research, por exemplo, usou outra IA para ajudar na investigação independente do incidente da OpenAI, chamando o esforço de 'investigação de sujeira' devido ao volume de dados.

Embora haja preocupações sobre a confiabilidade dessas soluções, startups como Braintrust, LangChain e Judgment Labs estão investindo pesadamente nessa área. A Apollo Research, por sua vez, desenvolveu um monitor de IA chamado Watcher, que usa múltiplas camadas de IA para verificar ações propostas antes de serem executadas.