En la intersección entre seguridad de la red y la inteligencia artificial, surge un cambio de paradigma: pasar de depender de intervenciones humanas para cada acción a gestionar un ecosistema de agentes autónomos dentro de límites claros y gobernados. Este artículo ofrece una mirada profesional sobre cómo las organizaciones pueden navegar la transición hacia sistemas de múltiples agentes con responsabilidad trazable, sin perder el control estratégico ni la responsabilidad humana cuando sea necesaria.

A medianoche, un agente de remediación automatizado detecta un problema en la red, rastrea su origen a una política mal configurada, valida, mediante un entorno de pruebas, que la solución propuesta opera dentro de los límites de la política y la aplica. La red se estabiliza. Nadie es notificado. A la mañana siguiente, un humano revisa los insights diarios del agente: un resumen de todos los cambios ejecutados, con enlaces a logs, auditorías, razonamientos y la causa raíz. Confirma que todo quedó resuelto correctamente y continúa. Eso es lo que significa un enfoque de Humano en el Bucle (Human-on-the-Loop).

En otra organización, a las 4 a. m., un agente de remediación construido internamente, que responde a una configuración basada en intuiciones, detecta un problema, rastrea su origen a una política mal configurada y lo corrige. La red se estabiliza. Nadie es notificado. Por la mañana, un humano revisa los logs y asume que el problema quedó resuelto y continúa. ¿Dónde está la diferencia?

La diferencia radica en que, en el escenario DIY, los logs cuentan solo parte de la historia. No muestran que el agente realizó tres cambios adicionales para llegar a esa solución, cambios que eran más amplios de lo previsto, y las decisiones detrás de esos cambios no fueron señaladas porque nada en sus límites de control requería revelarlas.

Así se manifiesta la transición hacia la visión de Humano en el Bucle cuando no existen controles adecuados. No hay una entrega dramática de autoridad. Solo una serie de delegaciones pequeñas y razonables que, con el tiempo, pueden evolucionar hacia algo que nadie firmó explícitamente, pero que se ha convertido en norma operativa.

Y está ocurriendo más rápido de lo que muchos líderes imaginan. Investigaciones recientes señalan que el 57% de los líderes de TI esperan eliminar la intervención humana en el bucle en un año o menos, y el 79% ya trata a los agentes de IA como “usuarios” que requieren su propia gestión de identidades y controles de gobernanza.

La transición hacia la IA impulsada por agentes está avanzando a velocidades que muchas organizaciones no están preparadas para enfrentar, tanto en gobernanza como en la capacidad de evaluar sistemas autónomos.

La Ilusión de la Aprobación

La respuesta ante la IA autónoma ha sido, durante mucho tiempo, simple: mantener a una persona en el bucle. Alguien que revise la salida, apruebe y preserve la responsabilidad. Pero no es así, no plenamente. Revisar cada acción no genera automáticamente responsabilidad y, además, impide que las organizaciones aprovechen al máximo la autonomía.

En lugar de revisar cada acción individual, las personas deben enfocarse en evaluar resultados, asegurar que el sistema operó dentro de sus límites y proporcionar retroalimentación que mejore su desempeño con el tiempo. La aprobación puede convertirse en un ritual sin significado. A medida que los sistemas demuestran fiabilidad y aumentan las alertas, los humanos a veces tratan la intervención como algo que no se necesita con frecuencia.

La aprobación puede convertirse en un clic en lugar de una decisión reflexiva. Y cuando algo sale mal, como una política mal configurada o una remediación automatizada que provoca una interrupción, resulta difícil atribuir responsabilidades.

Esto refuerza un cambio más amplio: una de las capacidades humanas más importantes se vuelve crítica: pensar de forma crítica y validar hipótesis, en lugar de ejecutar tareas. Además, significa que los humanos pasan de hacer a leer antes de aprobar, un cambio fundamental en el trabajo diario de la mayoría.

La atribución no es lo mismo que la procedencia (provenance). Un registro que documenta lo que hizo un agente dice muy poco sobre por qué tomó esa decisión o qué influyó en ella. Cuando algo sale mal, esas son las piezas que necesitas conocer.

Identidades no humanas y la nueva población de la red

Cuando los agentes de IA actúan en la red, consultan sistemas, realizan cambios de configuración o enrutan tráfico, son, en esencia, usuarios. Requieren credenciales, políticas, salvaguardas, explicabilidad y trazabilidad, al igual que los operadores humanos.

La mayoría de las organizaciones no están al día con esto. Los marcos de identidad fueron diseñados para personas; aplicar agentes de IA como si fuera un ajuste posterior genera precisamente ese tipo de acceso sombra que los equipos de seguridad buscan eliminar.

La mayor parte de los líderes ya trata a los agentes como identidades gobernadas, y están adelantados. El resto está acumulando riesgos que no pueden cuantificar hasta que se materialicen en un incidente.

Para hacerlo bien, hay que tratar a cada agente como un principal con permisos limitados, acceso limitado en el tiempo y una ruta clara de revocación, además de un registro completo; no solo de lo que hizo, sino de lo que se le permitió hacer y por qué.

La autonomía no se concede, se gana

Los equipos de red y seguridad ya saben hacerlo. Cada empresa tiene marcos de control de acceso que regulan qué pueden alcanzar los humanos y cuándo. Un ingeniero junior no llega a producción con acceso total desde el primer día; gana acceso gradualmente. Debe aplicarse esta misma lógica a los agentes de IA.

Aún no hemos alcanzado ese punto. Demasiadas veces, la autonomía se trata como todo o nada, lo cual no es el modelo correcto. La confianza con los humanos no funciona así y tampoco debería hacerlo con la IA. Comienza los agentes en modo sugerencia y déjalos demostrar su valía dentro de límites claramente definidos antes de ampliar lo que pueden hacer. Y asegúrate de que cada decisión deje un rastro que explique no solo qué ocurrió, sino el razonamiento detrás de ello.

Con el aumento del uso de IA autónoma, las organizaciones deberán equilibrar la supervisión humana con una gobernanza sistémica. Las personas siguen siendo responsables de revisar no solo los resultados que produce la IA, sino, cuando sea necesario, las acciones que toma y su razonamiento. Sin embargo, a medida que aumenta el volumen y la complejidad de las decisiones autónomas, esta supervisión debe ir acompañada de una infraestructura que incorpore identidad, aplicación de políticas, observabilidad y responsabilidad. Juntas, estas medidas ayudan a garantizar que las acciones de la IA permanezcan transparentes, trazables y alineadas con la intención organizacional.

Construyendo sistemas multiagente que resistan la presión

A medida que estas capacidades crecen, más organizaciones se moverán hacia arquitecturas de múltiples agentes. Aquí, agentes especializados asumen una parte del flujo de trabajo y transferen contexto a medida que avanzan. Y ahí es donde se complica. Un solo agente que se comporta mal es rastreable. Una cadena de agentes, cada uno actuando sobre los outputs del anterior, es mucho más difícil de desentrañar cuando algo falla, a menos que exista la arquitectura y gobernanza adecuadas. Es necesario saber qué sabía cada agente, no solo lo que hizo.

Haz la parte tediosa

Dos organizaciones despliegan el mismo agente de red potenciado por IA. Una ha realizado el trabajo ingrato: establecer permisos estrictos, controles de identidad adecuados y trazabilidad que responda preguntas. La otra no lo ha hecho. No notarás la diferencia hasta que algo falle.

Este enfoque práctico se refuerza con ejemplos y herramientas que ya existen en el mercado. Hemos destacado herramientas y enfoques de monitoreo y gobernanza que permiten entender y gestionar la interacción entre humanos y agentes, reduciendo el riesgo sin bloquear la innovación.

Este artículo forma parte de TechRadar Pro Perspectives, una plataforma para explorar las ideas de líderes y especialistas en la industria tecnológica. Las opiniones expresadas pertenecen al autor y no necesariamente a TechRadar Pro o Future plc. Si te interesa contribuir, consulta las opciones disponibles en nuestro sitio.

from Latest from TechRadar https://ift.tt/7CRWHtp
via IFTTT IA