En 100 organizaciones de ingeniería, el 61% ya ejecuta agentes de IA. Sin embargo, casi ninguno confía lo suficiente en ellos como para llevarlos a producción. Esta incertidumbre no se debe únicamente a los agentes, sino a la ausencia de gobernanza adecuada alrededor de su uso.

Las razones son claras. Los agentes cometen errores que los humanos evitarían con la experiencia, avanzan a un ritmo superior y operan de forma autónoma. Si algo falla, a menudo no hay un rastro de auditoría o visibilidad de lo que están haciendo en toda la organización. Esto se vuelve problemático cuando un agente descontrolado filtra credenciales, accede a repositorios no autorizados o consume presupuesto en la nube sin que nadie note el desvío.

Por ello, la desorganización de los controles existentes —los mismos principios que se aplican a los ingenieros humanos durante años— es la raíz del problema: privilegios mínimos, registro de auditoría, gestión de identidades y acceso limitado. Aunque sean conceptos familiares, muchas compañías siguen teniendo dificultades para aplicarlos de manera efectiva.

Para que las organizaciones arranquen con buen pie al desplegar agentes de IA, conviene implementar tres controles de gobernanza simples: aislar, acotar y aprobar.

Isolate by default (Aislar por defecto)

Comience con espacios de trabajo aislados y efímeros. Cada tarea creada a partir de una plantilla limpia debe eliminarse en cuanto se complete, sin estado compartido entre ejecuciones. Si algo sale mal, el daño se limita a esa tarea y no se propaga.

Desde ese espacio, todos los agentes deben tener, por defecto, cero acceso saliente. No limitado; cero. Un listado de permitidos explica exactamente qué dominios, métodos y rutas puede tocar un agente. Todo lo demás debe estar bloqueado. Incluso con acceso restringido, sistemas sensibles como GitHub o Salesforce deben tener acceso de solo lectura.

El agente se encuentra en un entorno aislado, con conectividad de red restringida. Es hora de controlar las llamadas a herramientas. Protocolos de contexto del modelo (MCP) definen cómo los agentes invocan herramientas externas, incluidas sistemas de archivos, bases de datos y APIs. Sin salvaguardas estrictas, un agente podría alcanzar cualquier servidor MCP disponible.

Este es un superficie de ataque grande e mayormente invisible. Los proxies delante de esas herramientas permiten a los administradores definir listas aprobadas, filtrar a nivel de herramienta y registrar todo intento de salida de la frontera.

Scope, permisos y monitorización en tiempo real

Incluso un agente bien aislado puede causar problemas si opera con permisos superiores a los necesarios. Los agentes nunca deben heredar las credenciales completas de un usuario. Las claves de API deben llevar solo los permisos requeridos para esa tarea específica y nada más.

Además de identidades acotadas, debe haber una visibilidad clara. Supervisar en tiempo real cada solicitud y alertar a los equipos cuando un agente realiza 10x de sus llamadas API habituales, contacta con un dominio nuevo o consume tokens a un ritmo inusual proporcionará señales oportunas y útiles. La ruta de IA basada en identidad (routing) integra todo. Autenticar a los usuarios mediante SSO existente y dirigir todas las solicitudes de modelos a través de llaves gestionadas centralmente evita la proliferación de claves sin atribución ni ruta de revocación clara.

Aprueba las tareas de agentes con un humano en el bucle

Pensemos en un agente como un joven empleado talentoso: alto rendimiento, dispuesto a ayudar, pero aún no otorgado para desplegar en producción sin supervisión. Los agentes de IA deben generar resultados, pero no decidir qué se pone en producción. Aquí entran las puertas de aprobación por parte humana, respaldadas por controles de acceso basados en roles. Los humanos deben asumir la responsabilidad compartida por la salida del agente. Es una combinación de mentalidad y control técnico.

Aun así, hay un área en la que se debe facilitar la supervisión humana: la selección del modelo. No todas las tareas deben ir al mismo modelo. Por ejemplo, los datos regulados requieren consideraciones distintas a la generación de contenido. Dirigir según políticas garantiza el cumplimiento sin depender de que cada desarrollador tome la decisión correcta cada vez.

Es esencial mantener auditorías completas. Cada prompt, cada llamada a una herramienta y cada interacción con el modelo debe estar ligado a una identidad autenticada y exportable a la pila de observabilidad existente. Debe ser claro qué usuario autenticado envió qué prompt al modelo y por qué.

Incrustre la gobernanza en su infraestructura, no en sus aplicaciones

En resumen, el objetivo es permitir a las organizaciones desplegar sus agentes de IA con confianza, sin ralentizar a desarrolladores, agentes o el negocio. Esto se logra estableciendo una capa de gobernanza en la infraestructura. Hay dos razones clave para ello: evita duplicar políticas en cada pila de IA y garantiza una gobernanza consistente en un mundo de cambios rápidos, donde agentes, modelos y herramientas evolucionan mes a mes. No querrá reescribir políticas a la velocidad del cambio de IA.

Si se implementa correctamente, la gobernanza basada en infraestructura hace que la producción de IA esté lista para avanzar. Los equipos de seguridad ganan visibilidad de las acciones de los agentes y se inclinan a aprobar más, los equipos de cumplimiento ven auditorías claras y firman más rápido, y los desarrolladores que confían en las salvaguardas pueden avanzar más. Las empresas que incorporen gobernanza ahora no solo mejorarán su postura de seguridad, sino que también superarán a competidores que esperan la aprobación para iniciar su primer piloto.

Este artículo forma parte de TechRadar Pro Perspectives, la vía para presentar las mentes más brillantes de la industria tecnológica de hoy.

from Latest from TechRadar https://ift.tt/9YaXiuB
via IFTTT IA