El incidente de seguridad más dañino relacionado con la inteligencia artificial que podría enfrentar su organización este año probablemente no tendrá su origen en atacantes externos que emplean modelos sofisticados. Es mucho más probable que empiece cuando un empleado copie un contrato de cliente, una previsión financiera o un conjunto de registros de RR. HH. en una herramienta de IA, porque facilita su trabajo y nadie le ha explicado por qué importa.

Shadow AI es un problema creciente, y nuestra investigación revela que casi la mitad de los empleados en grandes empresas alimentan datos corporativos en herramientas de IA que nadie en el área de TI ha aprobado o gobernado.

Más revelador aún, el 85% de los empleados continúa haciéndolo incluso cuando hay herramientas sancionadas por la empresa disponibles, lo que apunta a una falla de gobernanza que llega hasta la alta dirección. Con Shadow AI, los datos sensibles pueden moverse de forma silenciosa hacia fuera a través de canales que la mayoría de las pilas de seguridad no estaban diseñadas para interceptar.

Sumado al riesgo de seguridad de este flujo de datos no supervisado, la llegada de la EU AI Act significa que las organizaciones ahora enfrentan exigencias legales específicas sobre la gestión del uso de IA. La capacidad de ejercer un control total sobre cómo se implementa, gobierna y supervisa la IA se está convirtiendo en una imperativa regulatoria, además de una necesidad de seguridad.

Por qué la EU AI Act convierte esto en un problema de nivel directorio

Shadow AI representa un problema de seguridad serio, y el informe IBM 2026 Cost of a Data Breach estima que las herramientas no autorizadas contribuyen al 43% de las brechas en el último año. Ahora, la EU AI Act añade requisitos regulatorios significativos a estos riesgos.

Las obligaciones de la Act se han desplegado por fases; recientemente, las organizaciones clasificadas como desplegadores generales de IA tienen nuevas obligaciones de inventario, gobernanza de datos, registro de auditoría y transparencia a partir del 2 de agosto de 2026.

Otros plazos se han desplazado más adelante, con controles sobre el uso de IA de alto riesgo, que abarcan áreas como reclutamiento, puntuación de crédito y categorización biométrica, que deben entrar en vigor desde el 2 de diciembre de 2027. La IA integrada en productos regulados estará cubierta a partir del 2 de agosto de 2028.

Cualquier organización cuyos empleados usen sistemas de IA ya tiene obligaciones de cumplimiento como desplegador, independientemente de si esos sistemas fueron aprobados formalmente o no.

Todas las organizaciones que utilicen IA deben tener en cuenta que la obligación de alfabetización en IA, conforme al Artículo 4, ha sido exigible desde febrero de 2025, lo que implica que las organizaciones deben garantizar que sus empleados conozcan el uso seguro y sancionado de la IA.

Las reglas sobre el uso de IA de alto riesgo también se aplicarán a más operaciones de las que podría parecer a simple vista, incluyendo un empleado que use una herramienta de consumo no aprobada para tareas como criba de CVs, evaluación de solvencia y valoración del rendimiento.

Estas son tareas comunes que podrían activar la plena aplicación de las obligaciones de la Act a un sistema que el departamento de TI ni siquiera sabía que existía.

Con sanciones que pueden alcanzar hasta 15 millones de euros o el 3% de la facturación global anual por incumplimientos de alto riesgo, muchas organizaciones están expuestas a más de lo que creen.

Por qué su pila de seguridad existente no lo ve

El reto de Shadow AI es que aprovecha los puntos ciegos entre las capas de seguridad convencionales, escapando de huecos que la mayoría de las herramientas no están diseñadas para cerrar. Los CASB y los gateways seguros web no pueden descifrar datos conversacionales que fluyen hacia dominios de LLM legítimos a través de HTTPS, por ejemplo. Desde la perspectiva de la red, un prompt que contiene una base de datos de clientes es indistinguible de cualquier otra sesión web cifrada. Las extensiones de navegador se limitan a endpoints gestionados, ajenas a dispositivos personales y a IA integrada en SaaS aprobados.

Del mismo modo, las puertas de enlace de API suelen estar construidas alrededor de despliegues empresariales autorizados, lo que significa que capturan la actividad de IA que las organizaciones ya aprobaron, mientras que quedan fuera las herramientas de IA de consumo que impulsan la mayor parte del riesgo.

Estos puntos ciegos se intensifican entre sí, por lo que una organización que ejecuta las tres capas puede seguir sin visibilidad de la actividad de IA en una parte significativa de su estate, y sin medios para generar registros de interacción o evidencia de cumplimiento que exige la Act.

Qué aspecto tiene una buena detección de IA

Controlar los flujos de datos de IA suele ser tarea de trabajadores que cumplen con su función sin intención maliciosa. Sin embargo, es notablemente similar a defenderse de un actor externo que accede a sus datos de forma encubierta.

La lógica de detección debe reflejar esa realidad. La detección nativa en endpoints intercepta datos sensibles en el punto de movimiento antes de que lleguen a un sistema externo de IA, aplicando políticas en el nivel de prompt a través de navegadores gestionados y no gestionados, dispositivos personales y funcionalidades de IA incrustadas en herramientas SaaS. Opera donde ocurre la actividad, en lugar de intentar capturarla en etapas posteriores.

Dado el tamaño potencial de las multas, la capacidad de demostrar cumplimiento es tan importante como prevenir brechas de seguridad.

Un descubrimiento continuo en toda la infraestructura, incluyendo herramientas no sancionadas, proporciona al negocio el inventario de sistemas de IA que exige la Act.

Registros de interacción granulares: quién usó qué, cuándo y qué datos estuvieron involucrados, satisfacen los requisitos de documentación de los Artículos 12 y 13, sin que los equipos tengan que improvisar para reconstruir la actividad después de los hechos. Los mismos datos permiten identificar exactamente dónde existen brechas de alfabetización en IA, haciendo que el cumplimiento del Artículo 4 sea algo demostrable y no meramente afirmado.

Pasos prácticos para el cumplimiento

Los equipos de seguridad y cumplimiento que buscan adherirse a la EU AI Act tienen una ruta clara a seguir.

El punto de partida es mapear toda la estate de IA. El descubrimiento debe extenderse más allá de las herramientas aprobadas por TI hacia endpoints no gestionados, dispositivos personales en la red corporativa y IA incrustada en SaaS.

La gobernanza de datos debe trasladarse al endpoint. Las políticas que prohíben compartir datos sensibles con herramientas no aprobadas no son controles técnicos y, para cuando la aplicación ocurra en el borde de la red, ya se habrá perdido el control de los datos.

Recordemos que la información compartida con un sistema externo de IA puede permanecer en registros de prompts, integrarse en datos de entrenamiento del modelo o alojarse en servidores en jurisdicciones que la organización no controla. En el momento en que los datos cruzan esa frontera, la organización pierde el control total y ninguna política podrá recuperarlos.

Y dado que el Artículo 12 exige registros de interacción que puedan entregarse a los reguladores a demanda, las organizaciones necesitarán una auditoría continua y automática tanto de la actividad como de las medidas de seguridad.

Por último, los programas de alfabetización en IA orientados a mejorar la conciencia de los usuarios deben basarse en datos conductuales en lugar de formaciones genéricas. Los registros de actividad que muestran dónde ocurren las fallas de gobernanza —tan en la alta dirección como en cualquier otro lugar— proporcionan tanto el diagnóstico del problema como la evidencia que los reguladores querrán ver.

Hemos destacado el mejor software antivirus.

Este artículo se ha producido como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica de hoy.

Las opiniones expresadas aquí son del autor y no necesariamente las de TechRadarPro o Future plc. Si está interesado en contribuir, descubra más aquí: https://www.techradar.com/pro/perspectives-how-to-submit