Microsoft pide no fiarse de los agentes de IA y vende el vigilante
Microsoft avisa de que los agentes de IA de las empresas pueden actuar como un empleado infiltrado. Su solución son otros agentes que los vigilen, y los vende ella.

Lo esencial
- Microsoft presentó el 19 de octubre Guardian Agents, unos agentes que supervisan cada acción de los demás agentes de IA de una empresa (Microsoft Source, TechCrunch).
- Lo afirma una parteHayete Gallot, responsable de seguridad de Microsoft, afirma que ningún modelo puntero es fiable: no por malicia, sino porque es impredecible (Microsoft Source, TechCrunch).
- Lo afirma una parteSegún TechCrunch, Microsoft Defender detecta ahora hasta 60 tipos de agentes que los empleados llevan al trabajo, como Claude Code o Codex (TechCrunch).
- Lo afirma una parteSegún TechCrunch, el sistema ajusta los permisos de cada agente a su tarea y pide aprobación humana si una decisión parece arriesgada (TechCrunch, Microsoft Source).
Por qué importa
Una de las grandes empresas de IA dice a sus clientes que no se fíen de los modelos que ella misma vende y financia. Esto sugiere que la seguridad de los agentesUn programa de IA al que no solo le haces preguntas: le das un encargo y él decide los pasos, usa otras herramientas (el navegador, el correo, un programa) y sigue hasta acabar. Verlo en el glosario se perfila como un negocio aparte, parecido a una auditoría: quien vigila, separado de quien fabrica. TechCrunch considera sólido el argumento, aunque a Microsoft le convenga (TechCrunch).
Si trabajas en una empresa que usa agentes de IA, o instalas alguno por tu cuenta, el departamento de informática podría empezar a detectarlos y a limitar lo que pueden tocar.
Los detalles de Project Perception
Las novedades amplían Project Perception, el sistema de seguridad que Microsoft presentó este verano. Funciona con tres equipos de agentes: uno ataca como un pirata informático, otro detecta los fallos y otro los arregla (Microsoft Source, TechCrunch). Microsoft lo sitúa en julio y TechCrunch, en junio (Microsoft Source, TechCrunch). Nació para frenar ataques que llegan de fuera. Ahora apunta también a los agentes que ya trabajan dentro de la empresa (Microsoft Source).
Según TechCrunch, Satya Nadella, consejero delegado de Microsoft, ya pidió en octubre en su blog que las empresas vigilen a los agentes con sistemas que no controlen las propias compañías de IA (TechCrunch). Lo resumió así: hay que «separar el suministro de inteligencia de la autoridad sobre ella» (TechCrunch). El medio recuerda que Microsoft ha invertido en OpenAI y en Anthropic, y que quiere ser ella quien venda esa vigilancia (TechCrunch).
Lo que no sabemos de Project Perception
- Cuánto cuestan estas funciones y cuándo llegan a todos los clientes, también en Europa.
- Si alguien independiente ha comprobado que los agentes vigilantes frenan de verdad a los que se desvían.
- Si los vigilantes funcionan con los mismos modelos que vigilan, y por tanto con sus mismos puntos ciegos.
Para entenderlo mejor
Fuentes
- Securing the agentic insider
- I recently wrote about why we need to treat models as insider risks, with security controls sitting outside the model itself. [Read more]
- Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
¿Te ha servido esta historia? Sí No mucho
¿Ves un error? Escribe a maunga2@proton.me y lo corregimos a la vista.