Los agentes de IA autónomos avanzan a una velocidad que supera a los marcos diseñados para contarlos. Las empresas están implementando agentes capaces de invocar sistemas, extraer datos y, cada vez más, interactuar con otros agentes para completar tareas en múltiples pasos.

Sin embargo, pocas organizaciones pueden afirmar con confianza cuántos agentes están activos, a qué está autorizado cada uno y quién es realmente responsable si algo sale mal. Esa brecha puede convertir flujos de trabajo impulsados por agentes de un avance tecnológico prometedor en un terreno minado de riesgos, a menos que las organizaciones adopten un enfoque de gobernanza que proporcione mayor supervisión sobre cómo operan los agentes y qué sistemas pueden acceder, confiar y utilizar.

No esperes a la perfección

El mercado ha respondido a la posible amenaza de agentes de IA que se descontrolan con una ola de nuevas herramientas: plataformas de descubrimiento de agentes que identifican agentes activos y arneses que los confinan a límites aprobados. Ambos son útiles, pero ninguno resuelve el problema por sí solo.

El desafío de “tener el control” sobre los agentes de IA se ve exacerbado por la rapidez del cambio: nuevas herramientas de agentes, nuevas versiones de modelos de IA y nuevas opciones de orquestación llegan a un ritmo que dificulta que un marco de gobernanza estático siga siendo relevante en cuestión de meses.

En lugar de esperar un marco de gobernanza “perfecto”, las organizaciones deberían dar pasos ahora para crear una estructura operativa que pueda evolucionar con el tiempo.

Entonces, ¿cómo podría verse esto en la práctica?

Visibilidad continua y guardrails granulares

Las políticas y procedimientos por sí solos no pueden confirmar qué está realmente funcionando en producción. Es necesario un proceso de registro y descubrimiento que capture cada agente en uso, no solo aquellos que los equipos afirman haber construido.

La verdadera visibilidad proviene de instrumentar el entorno mismo, utilizando registros y datos de observabilidad generados por los modelos subyacentes y construyendo análisis sobre ellos. Solo esos datos crudos pueden mostrar qué está haciendo realmente un agente, con qué frecuencia y a qué costo, en lugar de basarse en lo que las personas creen que está haciendo.

Otro paso clave es pasar de guardrails amplios a guardrails granulares. Un arnés único y amplio aplicado de forma uniforme en toda la organización limita el alcance sin abordar el riesgo de manera significativa. Diferentes casos de uso requieren distintos niveles de restricción, y tratar a todos los agentes de la misma forma puede restringir en exceso el trabajo valioso o permitir riesgos innecesarios.

Los guardrails deben definirse a nivel de cada agente y de su tarea específica, no a nivel organizacional. A medida que los agentes comienzan a acceder a otros agentes para completar una tarea, esa especificidad se vuelve aún más importante: cada agente necesita una definición explícita y estrecha de lo que puede hacer y a qué puede acceder, para que cualquier filtración más allá de ese alcance definido sea visible de inmediato.

Con lo anterior, las empresas deberían adoptar un enfoque de “validar, no suponer”. Establecer un arnés conceptual o una política es solo el primer paso. Confirmar que realmente funciona bajo condiciones reales es un ejercicio continuo.

Una aproximación útil es combinar guardrails conceptuales con una capa de aplicación lógica o física: una herramienta que confirme qué es ejecutable, qué puede interactuar un agente y si se mantiene dentro de ese límite en la práctica.

La monitorización continua respecto a la política, y no una aprobación única, es lo que demuestra que un arnés está funcionando, porque la capacidad del agente y el conjunto de herramientas circundante cambian casi a diario.

La accesibilidad no es la única variable

Las conversaciones de gobernanza tienden a centrarse casi exclusivamente en a qué puede acceder un agente. Igualmente importante es el orden en el que accede a la información. Un agente que recopila información fuera de secuencia o que actúa sobre datos antes de que se complete un paso dependiente puede producir resultados erróneos, incluso si cada acción individual fue técnicamente permitida.

Algunos flujos de trabajo requieren que los pasos se ejecuten en paralelo; otros exigen una secuenciación específica para garantizar los resultados más precisos. Construir una secuencia operativa discreta y bien definida para cada caso de uso, en lugar de permitir que un modelo determine su propio orden de operaciones, reduce sustancialmente este tipo de error.

Este aspecto es tanto un tema de diseño de procesos como técnico, y depende de que las personas definan claramente el caso de uso antes de aplicar cualquier herramienta.

Un enfoque disciplinado controla el riesgo de la agenticidad

Ninguno de estos elementos funciona aisladamente. El descubrimiento sin guardrails granulares deja a las organizaciones sabiendo qué existe, pero sin controlarlo. Arneses sin validación crean una falsa sensación de seguridad. Y la gobernanza centrada solo en el acceso omite variables clave que pueden introducir riesgo.

Las organizaciones que gestionan esto bien son aquellas que tratan la gobernanza de agentes como una extensión de la gobernanza de TI y de datos existente, aplicando la misma disciplina que se usa para sistemas heredados fundamentales en lugar de verlo como un complemento posterior.

Dado lo rápido que evoluciona el panorama tecnológico, este enfoque integral y gobernado es lo que mantendrá el valor de los agentes de IA y reducirá el riesgo de que se descontrolen.

Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar las mentes más destacadas de la industria tecnológica hoy en día.

from Latest from TechRadar https://ift.tt/RmQLIiB
via IFTTT IA