Aunque los vectores de ataque y los entornos de amenaza han evolucionado desde la llegada de Internet, una constante persiste: los humanos usan software y el software tiene parámetros predefinidos. Esa distinción es precisamente la que explica por qué la ingeniería social sigue siendo tan eficaz: los ciberdelincuentes aprovechan debilidades predecibles del comportamiento humano, obteniendo acceso a cuentas y a información sensible.
Por primera vez, esa premisa de larga data se invierte. En un mundo cada vez más autónomo, los agentes de IA pueden actuar en nombre de las personas, creando una nueva clase de vectores de ataque que apuntan a la autonomía de las máquinas en lugar de a las debilidades humanas.
La frontera entre software y usuario se está volviendo realmente, pero realmente borrosa
El propósito de un agente no es limitarse a recuperar información o esperar la aprobación de un humano: sus responsabilidades pueden incluir interpretar objetivos, desarrollar planes, elegir herramientas, acceder a datos de forma autónoma y realizar acciones. En resumen, la IA agente conecta software y usuario.
Esto no hace obsoletos todos los fundamentos que conocemos sobre seguridad de software y SaaS, pero sí significa que muchas de las suposiciones que sustentan los controles actuales ya no son suficientes. Los humanos seguirán utilizando software convencional, pero junto con flujos de trabajo basados en agentes, lo que deja a las organizaciones a cargo de la seguridad de ambos entornos.
Afortunadamente, los fundamentos permanecen: mínimo privilegio, autenticación fuerte y separación de funciones seguirán siendo centrales en la próxima ola de ciberseguridad. Lo que cambiará, sin embargo, es cómo se aplicarán esos principios a los agentes, que no se comportan ni como software ni como usuarios humanos.
Los agentes de IA necesitan identidades propias
El primer requisito es dejar de tratar a los agentes como funciones ocultas dentro de las aplicaciones o como software por derecho propio. Un agente empresarial debería tener una identidad de primer nivel, al igual que cualquier colega humano.
Esto implica que los agentes de IA deben contar con identidades únicas, propietarios con nombres (superiores jerárquicos), propósitos claramente definidos y permisos específicos. Pero también deben contar con ciclos de vida propios, similares al software, como fechas de creación, puntos de revisión y fechas de expiración.
“Las fechas de expiración o la recertificación periódica son importantes porque, de lo contrario, los agentes pueden convertirse en rutas de acceso persistentes difíciles de gobernar que las identidades humanas,” explicó Vinay Patel, Director de Seguridad de Zendesk, en una entrevista exclusiva.
En última instancia, este es el tipo de controles que ya existen para usuarios humanos, porque las organizaciones ya entienden los riesgos del acceso no gestionado, por ejemplo ante cambios de rol o salidas de la empresa.
Si no se trata a los IA agentes como usuarios con identidad propia, las compañías corren el riesgo de acumular agentes abandonados, credenciales almacenadas y rutas de acceso a datos cuyo propósito comercial original podría haber desaparecido, una consecuencia impensable para los humanos, y que debería tratarse con la misma severidad para los agentes de IA.
La automatización con supervisión humana es el futuro
Es importante destacar que los agentes de IA no ocupan un único espacio: pueden actuar de forma autónoma, ser comisionados tarea por tarea por un usuario humano, o funcionar en un punto intermedio. Patel afirmó que un “rastro de auditoría debe conservar ambas identidades: el humano que inició o autorizó la acción y el agente que la ejecutó”.
Para agentes completamente autónomos, un registro que remita a su “propietario, propósito y política aprobada” sigue siendo igualmente importante.
Pero, por supuesto, todo se reduce a una visibilidad impecable y una gestión eficaz. “Las compañías necesitan inventario y descubrimiento de todos los lugares donde pueden crearse o integrarse agentes, incluidas plataformas SaaS, herramientas de automatización internas, entornos de desarrollo y integraciones de terceros”, añadió Patel.
Las organizaciones deben vigilar no solo qué agentes están desplegados, sino si sus permisos y comportamientos siguen alineados con sus propósitos comerciales originales.
Investigaciones recientes de NIST destacan prioridades similares, incluidas evidencias verificables de acciones de los agentes, intención, fuentes de datos y resultados generados. Pero, mientras NIST desarrolla pautas sobre adopción, visibilidad, control y responsabilidad, los agentes ya se están desplegando, a menudo sin salvaguardas adecuadas.
La IAM tradicional no alcanza
Un artículo separado de Cloud Security Alliance concluyó que “los protocolos tradicionales de gestión de identidades y accesos (IAM), diseñados para aplicaciones estáticas y usuarios humanos, no pueden seguir el ritmo”.
Los investigadores sostienen que las credenciales y permisos deberían ser específicos de la tarea, de corta duración y fácilmente revocables, a diferencia de las identidades humanas, que suelen durar todo el contrato laboral.
La CSA también recomienda aplicar principios de zero-trust tratando la posibilidad de compromiso de un agente como una posibilidad verosímil. Al exigir mínimo privilegio, aislar sistemas y verificar el acceso de forma continua, las organizaciones pueden limitar las consecuencias de un ataque o una configuración errónea mientras se adaptan a este nuevo entorno de seguridad.
La responsabilidad comienza antes de la implementación
Patel afirma que “la responsabilidad no debe recaer en una sola parte por defecto”. Es tanto responsabilidad de los adoptantes como de legisladores e incluso de los usuarios finales.
Claves para entender vulnerabilidades y riesgos potenciales es identificar dónde ocurrió la falla: “la instrucción del usuario, la gobernanza del propietario del agente, el diseño del desarrollador, los controles del proveedor de la plataforma o el modelo de implementación de la empresa”.
Por encima de todo, el director de seguridad de Zendesk sostiene que “la responsabilidad debe definirse antes de la implementación, no reconstruirse después de un incidente”.
En el corto plazo, este trabajo podría frenar la adopción de IA mientras las empresas abordan controles que podrían haberse pasado por alto durante las fases de prueba informal. El riesgo aparece cuando un piloto exitoso progresa a producción sin detenerse a definir propiedad, permisos y otras políticas.
Antes de escalar despliegues de agentes, las organizaciones deben pausar y asegurar las bases adecuadas. La gobernanza se vuelve mucho más difícil de incorporar una vez que un agente ya está integrado.
Preparándose para la fuerza laboral autónoma
La pregunta ya no es cómo, o incluso si, los agentes de IA formarán parte de la empresa: es cómo pueden establecer los controles necesarios antes de que sean más comunes que los trabajadores humanos.
Las inversiones de seguridad más valiosas hoy se centran en la visibilidad, el control, la responsabilidad y la gobernanza, sin olvidar las inversiones que los equipos de TI realizan en fundamentos de datos e interoperabilidad.
Pero afortunadamente, nada de esto exige que una empresa abandone los principios de seguridad que ha desarrollado durante décadas. Todo lo que se necesita es que los líderes amplíen y redefinan estos principios para el mundo basado en agentes.
La empresa del futuro combinará el entorno humano-software que ya conocemos con una nueva capa de agentes de extremo a extremo: ninguno de los dos eliminará al otro. Las compañías que se preparen para este nuevo modelo híbrido obtendrán los mayores retornos.
from Latest from TechRadar https://ift.tt/onjTmwp
via IFTTT IA
Pacosite's Blog 