Microsoft ha presentado una nueva línea de herramientas y controles destinados a monitorear, restringir y gestionar los riesgos que presentan los agentes de IA autónomos. Bajo conceptos como Guardian Agents y Dynamic Permissions, la compañía propone un marco de seguridad que acompaña la velocidad de los agentes con supervisión impulsada por IA y gobernanza continua.

En este contexto, nacen términos como Agentic Insider y Guardian Agent, que la empresa define como claves para entender la interacción entre IA y operaciones empresariales. Las herramientas buscan adaptar de forma dinámica los permisos, el comportamiento y el acceso de los agentes en función de niveles de riesgo que cambian en tiempo real.

Un artículo reciente de Microsoft resume la visión de Nadim Abdo, vicepresidente senior de Identidad y Acceso a la Red, sobre que los agentes, aunque no son inherentemente maliciosos, pueden cometer errores o ser manipulados. Dado que requieren permisos relativamente amplios para operar, surge un riesgo que debe gestionarse con rigor.

Guardian Agents y supervisión continua

La idea central es que los agentes de IA no deben ser la autoridad de seguridad por sí mismos. Satya Nadella ha señalado la necesidad de separar la fuente de inteligencia de la autoridad que la controla, de modo que los controles que determinan qué puede acceder y qué acciones puede realizar un modelo estén fuera del propio modelo para evitar manipulaciones.

En respuesta, Microsoft ha desarrollado Project Perception para coordinar agentes especializados que analizan datos de seguridad, identifican vulnerabilidades e investigan amenazas. Este sistema utiliza tres tipos de agentes: rojos (red) que buscan debilidades, azules (blue) que investigan amenazas y verdes (green) que implementan correcciones. Ahora, la empresa extiende este enfoque para proteger al “agentic insider” mediante Guardian Agents.

Según Abdo, Guardian Agents permiten a los equipos de seguridad operar de forma continua, a escala y a la velocidad de los sistemas, utilizando sensores, contexto y actuadores distribuidos en el ecosistema para entender el riesgo de los agentes y adaptar la protección de manera constante. Project Perception y Microsoft 365 Agents comparten señales, contexto y un registro unificado que ofrece a TI y seguridad una visión coherente de los agentes y su riesgo, junto con los controles necesarios.

Un enfoque disciplinado: el agente como drill sergeant

La idea es envolver la inteligencia no determinista con controles deterministas, evidencia independiente y límites de contención. Los controles se organizan en siete ámbitos: identidad, permisos, datos, terminales, red, nube y tiempo de ejecución, con cuatro responsabilidades: saber qué agente existe, quién lo posee y por qué, y qué está haciendo; contener lo que cada agente puede acceder y hacer antes de actuar; proteger los datos, herramientas, tiempo de ejecución, recursos y sistemas que utiliza el agente; y adaptar la protección de forma continua ante cambios de comportamiento, contexto y riesgo.

En la práctica, el concepto implica que el IA actúe como un supervisor disciplinado para las operaciones de los drones de software, ajustándose en tiempo real para garantizar resultados correctos y evitar desviaciones peligrosas.

Microsoft también anunció la ampliación de laDiscoveribilidad hacia 35 tipos adicionales de agentes locales, incluyendo Claude Code, OpenAI Codex y GitHub Copilot, así como la extensión de Entra Agent ID para incorporar nuevos patrones de agente, incluyendo tanto agentes locales como otros descubiertos mediante sensores de seguridad.

Con Dynamic Permissions y Dynamic Agent Risk, la empresa promete permitir un control más preciso sobre el acceso y las acciones de los agentes, supervisando simultáneamente su comportamiento y niveles de riesgo. Dynamic Conditional Access puede responder a incrementos de riesgo restringiendo permisos, bloqueando operaciones específicas o solicitando aprobación humana. En escenarios extremos, un agente puede ser detenido y aislado.