Durante años, los modelos de seguridad digital se apoyaron en una premisa sencilla: quien estaba dentro de la red corporativa podía considerarse de confianza. La expansión de la nube, las aplicaciones por suscripción y el trabajo remoto debilitó esa frontera. En respuesta, las organizaciones empezaron a verificar identidades, revisar dispositivos, exigir autenticación multifactor y evaluar continuamente el acceso.

Ese enfoque sigue siendo fundamental cuando una persona inicia sesión para realizar una tarea. Pero, con la llegada de los agentes de inteligencia artificial, el principal riesgo puede aparecer después de conceder el acceso.

Un agente de IA puede interpretar una instrucción, consultar bases de datos, elegir herramientas digitales, conectarse con servicios externos y activar flujos de trabajo. Confirmar que su identidad está registrada en la organización no basta para saber si su siguiente acción será segura, apropiada o correcta. La seguridad debe considerar también el contexto y el comportamiento del agente.

## El desafío de las identidades no humanas

Las empresas ya conocen los riesgos asociados a las identidades no humanas. Durante años, cuentas de servicio, tokens y certificados digitales han permitido que distintos programas se comuniquen entre sí. Sin una gestión adecuada, esas credenciales pueden conservar permisos permanentes mucho después de que termine el proyecto para el que fueron creadas, convirtiéndose en accesos difíciles de detectar y supervisar.

Los agentes de IA añaden una dificultad: cierto grado de autonomía. Una cuenta de servicio tradicional suele ejecutar instrucciones predefinidas. En cambio, un agente puede interpretar un objetivo general, analizar información cambiante, seleccionar herramientas y decidir cómo avanzar.

Por eso, las políticas no pueden limitarse a proteger el acceso inicial. También deben cubrir los datos, sistemas y recursos computacionales disponibles para el agente, además de supervisar las decisiones que toma durante su actividad.

## Ajustar la autonomía al nivel de control

Para gestionar el riesgo, conviene distinguir dos factores: cuánta independencia tiene un agente y a qué recursos puede acceder. La combinación determina qué controles necesita.

Un agente que resume documentos, por ejemplo, debería contar con permisos de lectura limitados y registros claros de actividad. En cambio, uno que puede modificar bases de datos de producción, acceder a repositorios de código o alterar procesos empresariales requiere límites operativos estrictos, aprobación humana para acciones sensibles y un mecanismo para revertir errores.

Es útil considerar tres niveles de autonomía:

1. **Agentes conversacionales de IA:** asistentes de productividad gestionados por empleados o equipos. Deben utilizar controles de acceso basados en roles, acceder únicamente a la información necesaria y mantener registros de actividad. También es importante validar las respuestas cuando su integridad sea relevante.

2. **Agentes con supervisión humana:** herramientas que preparan respuestas a clientes o proponen cambios en bases de datos para que una persona los revise. Los equipos de seguridad deben validar los parámetros de las herramientas y exigir aprobación humana antes de escribir, eliminar, gastar dinero o enviar información al exterior.

3. **Agentes plenamente autónomos:** sistemas capaces de restablecer contraseñas o ejecutar flujos de trabajo complejos por iniciativa propia. Necesitan controles más rigurosos: límites de frecuencia, comprobaciones de políticas en tiempo real, restricciones de red, verificación continua de identidad y autorización mínima, y registros de auditoría completos e inalterables.

Una práctica cada vez más relevante es configurar al agente para que solicite aprobación humana cuando detecte un comportamiento inusual. Las organizaciones deberían comprobar si sus sistemas pueden activar esa pausa y quién tiene autoridad para aprobar o detener la acción.

## La importancia de supervisar en tiempo real

Para aplicar estos controles, los equipos de seguridad necesitan visibilidad mientras el agente está trabajando. Deben poder examinar la instrucción recibida, la respuesta generada, las herramientas utilizadas y el movimiento de datos.

Una arquitectura eficaz permite descubrir la actividad de los agentes en toda la organización, controlar su interacción con herramientas internas y entender cómo circula la información entre sistemas y flujos de trabajo.

El contexto es clave. Al relacionar el comportamiento del agente con el tráfico de red, la actividad de los usuarios y los registros de las bases de datos en la nube, los equipos pueden investigar incidentes con mayor precisión. Pueden identificar qué agente actuó, quién es responsable de él, qué datos se movieron y qué herramienta se invocó.

Para las empresas, esto permite establecer una gobernanza más coherente entre usuarios, aplicaciones y agentes digitales.

## Cómo empezar: elegir un flujo de trabajo

Proteger este nuevo entorno no exige transformar toda la función de seguridad de un día para otro. Un primer paso práctico es escoger un flujo de trabajo de IA que ya esté en uso o que vaya a implementarse pronto.

Documente su identidad digital, su nivel de autonomía, los archivos a los que puede acceder, las herramientas que utiliza, los puntos que requieren aprobación humana y la forma de revertir una acción equivocada.

Este ejercicio ayuda a detectar brechas con rapidez. Si la organización no puede observar las acciones del agente en tiempo real, aprobar decisiones, bloquear accesos o explicar su comportamiento posteriormente, sus controles no están lo bastante cerca de la actividad.

A partir de ahí, establezca una base de seguridad para los agentes de programación y sus entornos de ejecución u orquestación. Incluya las herramientas y capacidades disponibles, las conexiones con otros servicios y el acceso a los datos y las identidades que permiten utilizarlos.

El principio de «nunca confiar, verificar siempre» debe acompañar al agente durante toda su actividad. La pregunta decisiva ya no es solo quién ha iniciado sesión, sino si la siguiente acción debería permitirse, en esas condiciones y en ese momento.

from Latest from TechRadar https://ift.tt/OtxAJXc
via IFTTT IA