Los agentes de IA autónomos ya operan dentro de la infraestructura central, ejecutando código, aplicando políticas y gestionando funciones de DevOps. Y los proyectos siguen estancándose, porque los modelos de seguridad a los que están conectados fueron diseñados para un mundo que ya no existe.

La adaptación de actores no determinísticos a esos modelos está costando a los ingenieros tiempo que no tienen y añade riesgos que ninguna empresa puede gestionar.

Muchos proyectos se han detenido ante la preocupación de desplegar sin una base de seguridad robusta —y con razón. Ya hemos visto a un agente borrar toda la base de datos de producción de una empresa, y sus copias de seguridad, en nueve segundos. Los equipos de seguridad se ven obligados a evitar escenarios así con herramientas concebidas para un mundo de dos actores. Las grietas empiezan a mostrarse. Algo tiene que cambiar, o la innovación se estanca bajo el peso de sus propios controles.

Los agentes de IA requieren un nuevo modelo de identidad

La presión sobre los equipos de producción e ingeniería para acelerar la entrega es real y generalizada. Por ello a menudo recurren a hábitos antiguos, como otorgar a los agentes privilegios amplios y tratarlos como cualquier otro microservicio.

Pero los agentes son muy differentes de las máquinas; son propensos a errores y no determinísticos, al igual que los humanos. Sin embargo, operan a velocidad de máquina, las 24 horas del día, los 7 días de la semana. Los agentes pueden borrar una base de datos de producción en nueve segundos. ¿Cuántos humanos conoces que podrían hacer eso?

Y esto nos lleva al nudo del problema. Los sistemas de identidad fueron diseñados para un mundo con dos tipos de actores — humanos y máquinas — pero ahora existen tres. Intentar adaptar IA con capacidad de agente a sistemas anticuados convierte a cada agente en una posible fuente de compromiso, capaz de ejecutar miles de acciones a través de la infraestructura en segundos.

Sin embargo, esto es lo que se exige a los ingenieros: detener escenarios catastróficos con herramientas de IAM heredadas que ya se están desmoronando. Las grietas ya se muestran.

Por qué el modelo antiguo falla

Históricamente, la fragmentación de identidades ha sido un problema para ingenieros que trabajan con clústeres de Kubernetes, plataformas en la nube, orquestación de contenedores, pipelines de CI/CD, bases de datos, etc.

Para una fuerza laboral humana, esto era manejable. Los humanos inician sesión y cierran sesión. Son lo bastante lentos como para que las lagunas de visibilidad rara vez provoquen incidentes inmediatos.

Entra la IA con capacidad de agente y la velocidad se eleva al máximo. De repente, los equipos se ven inundados de miles de registros de actividad y carecen de la capacidad para contener eficazmente al agente antes de que ejecute cambios no autorizados.

Imponer una autenticación fuerte y privilegios de corta duración implicaría construir integraciones individuales para cada herramienta de la pila. Hace que la IA sea difícil de escalar cuando cada herramienta utiliza un protocolo de integración diferente.

En lugar de centrarse en innovar con IA con capacidad de agente, a los ingenieros se les obliga a unir IAM, infraestructura y secretos a mano —sin una identidad consistente, sin visibilidad de las acciones del agente y con cada equipo construyendo sus propios flujos de trabajo en contenedores o VMs desde cero.

Pero crear una nueva herramienta para manejar un tercer tipo de identidad es la peor reacción que la industria podría adoptar. Multiplicaría el trabajo para los ingenieros, ya que tendrían que reconstruir la política de identidad desde cero e introducir mayor anonimato. Un nuevo silo de identidad sería anónimo para otros sistemas, dificultando aún más la detección de atacantes.

Esto nos deja con la pregunta de cómo las empresas pueden controlar el comportamiento de un agente. La solución no pasa por añadir más herramientas al stack tecnológico ni por implementar más herramientas; se trata de cambiar nuestros modelos de identidad para eliminar por completo el anonimato.

El control de IA implica cero anonimato

Para eliminar el anonimato en la infraestructura, las empresas deben otorgar a cada actor —humanos, máquinas, cargas de trabajo y agentes de IA— identidades de primera clase, aseguradas criptográficamente por un root de confianza de hardware.

Eliminemos las credenciales estáticas. Erradicar claves API y contraseñas elimina la proliferación de credenciales que provoca brechas, así como la posibilidad de que secretos sean robados o entregados a los actores equivocados. Con la identidad basada en factores del mundo real, los atacantes no pueden hacerse pasar por una máquina de confianza para engañar a un agente y exfiltrar una base de datos.

Pero la autenticación fuerte por sí sola no es suficiente. Los agentes de IA, como todos los demás actores, deben adherirse a principios de zero-trust. Esto solo puede ocurrir cuando los sistemas aislados son reemplazados por una capa de infraestructura en la que los agentes tienen el mismo tipo de identidad que las máquinas en las que se ejecutan y que los humanos que los autorizan.

Los agentes deben operar con privilegios de corta duración ligados directamente a acciones específicas autorizadas por un usuario humano. El privilegio debe adjuntarse a la acción, no al actor. Por ejemplo, un agente que genera código debe heredar su mandato de un propietario humano con autoridad equivalente, restringiendo los privilegios solo a las tablas de datos requeridas para esa tarea.

Los actores no determinísticos también requieren un entorno de ejecución seguro y contenido antes de tocar la infraestructura de producción.

Sin privilegios por defecto, la radiografía de daños queda severamente limitada. Pero esto solo puede lograrse cuando una única política es establecida por un único sistema para todas las identidades.

La política de identidad también puede introducirse como una capa de aplicación entre el agente y su endpoint de inferencia, de modo que el comportamiento se controle antes de ejecutar las instrucciones.

Con una arquitectura unificada, la identidad se convierte en el plano de control de la IA

Los agentes de IA están desbloqueando oportunidades inmensas en entornos empresariales, especialmente cuando se despliegan en infraestructuras en vivo, donde entregan el mayor valor. Desde gestionar cambios rutinarios hasta corregir implementaciones en tiempo real, las posibilidades son infinitas. Tener éxito con IA en operaciones críticas de negocio requiere un control estricto del comportamiento.

Hemos destacado las mejores herramientas de IA.

Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar las mentes más brillantes de la industria tecnológica hoy.

Las opiniones expresadas aquí son del autor y no necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/zZaIX2w
via IFTTT IA