La línea temporal de la IA todavía se escribe a diario, pero una cosa quedó clara: las empresas están pasando de la experimentación a una implementación generalizada, tras identificar casos de uso sólidos, y la seguridad y la confianza se convierten en prioridades cada vez más elevadas.

La pregunta ya no es si los empleados están dispuestos a adoptar la IA, sino si sus empleadores saben cómo se utilizan las herramientas de IA, si están proporcionando las soluciones adecuadas y si la gobernanza soporta casos de uso reales.

Como resultado, las compañías enfrentan la tarea de domar la llamada shadow AI mientras los trabajadores exploran sus herramientas preferidas fuera de las alternativas proporcionadas. Aunque las organizaciones cuentan con años de experiencia manejando shadow IT, la shadow AI presenta nuevos retos.

La shadow AI es más difícil de domesticar que la Shadow IT – ganar visibilidad es el primer paso

En lugar de bloquear la descarga de software, los trabajadores pueden dirigirse casi sin esfuerzo a su herramienta de IA elegida directamente desde el navegador o mediante una cuenta personal, sin aprobación ni restricciones. Hasta dos tercios (67%) del uso de IA en la empresa ocurre ahora a través de cuentas personales no gestionadas, incluso cuando ya se proporcionan licencias de nivel empresarial.

Sin embargo, esas herramientas de IA autorizadas sí están funcionando para los empleados, que experimentan una mayor productividad. Al final del día, esto es una gran victoria para las empresas bajo presión para demostrar ROI, pero la shadow AI presenta riesgos de seguridad que el software empresarial típico tiende a mitigar.

Teramind ha revelado que el 86% de las organizaciones carecen de visibilidad sobre cómo los datos se mueven hacia y desde herramientas de IA, y no es solo cuestión de los trabajadores del conocimiento. Casi siete de cada diez ejecutivos de alto nivel admitieron priorizar la rapidez sobre la seguridad.

Conversé con Leeron Walter, vicepresidente de Estrategia de Teramind, para entender por qué la shadow AI se ha convertido en un tema más problemático de lo que podríamos haber pensado, y qué pueden hacer realistically las organizaciones para recuperar visibilidad y control, sin dejar de apoyar a los trabajadores donde se sienten más cómodos y productivos.

• ¿Cómo se define la shadow AI y por qué ocurre dentro de herramientas aprobadas?

La shadow AI es cualquier uso de IA que opera fuera de la visibilidad y gobernanza organizativa, ya sea mediante apps prohibidas, cuentas personales o características de IA integradas en herramientas que ya se pagan.

La razón de que se oculen dentro de plataformas aprobadas es simple: los proveedores están compitiendo por incorporar IA en todo. Tu Microsoft 365 con licencia, tu lector de PDF, tu CRM: todas tienen funciones de IA ahora.

Nuestra investigación muestra que el 67% del uso de IA en la empresa se ejecuta a través de cuentas personales no gestionadas en plataformas con licencia corporativa. El perímetro no se movió. Se disolvió.

• ¿Los ejecutivos realmente siguen las políticas de IA que aprueban?

No siempre. Nuestros datos son inequívocos: el 69% de los líderes de la C-suite priorizan la rapidez sobre la seguridad al usar herramientas de IA, frente al 37% de los empleados de primera línea.

Los ejecutivos sienten la presión competitiva de forma más aguda, por lo que racionalizan el eludir políticas.

• ¿Qué ocurre en la mente de un empleado cuando eligen la productividad sobre el cumplimiento, y pueden las empresas cambiar eso?

Están haciendo un rápido cálculo costo-beneficio: “Si fallo, la fecha límite me perjudica ahora. Una brecha de datos es un problema de otros más tarde.” En nuestra investigación, el 60% de los empleados dijo que los beneficios de productividad superan los riesgos de seguridad cuando hay plazos apretados.

No arreglas eso con más restricciones: el 48% afirmó que usaría IA incluso si estuviera explícitamente prohibida. Se soluciona haciendo que la opción segura sea igual de rápida y sin fricción que la arriesgada. Elimina la compensación por completo.

• ¿Gen Z realmente es más propensa a eludir las reglas de IA?

Sí, pero no porque sean imprudentes: están impacientes con políticas que parecen arbitrarias. Para ellos, la IA es una utilidad básica, como un motor de búsqueda.

Bloquearla no se percibe como una medida de seguridad; se percibe como que la empresa está quedándose atrás. Acógelos con rapidez y habilitación, no con burocracia.

• ¿Por qué las herramientas tradicionales de DLP no detectan el tráfico de IA?

Porque se construyeron para capturar archivos que se mueven, no ideas que se procesan. Shadow IT trataba de almacenamiento no autorizado: un archivo subido a Dropbox.

Shadow AI trata de procesamiento no autorizado: datos sensibles pegados en un prompt de chat. No hay una transferencia de archivos para interceptar. Los datos se mueven a través de una sesión de navegador encriptada, y las herramientas DLP heredadas buscan patrones en tipos de archivos y transferencias de red, no contenido semántico en un chat.

El modelo de amenaza cambió; las herramientas no.

• ¿Qué aspecto tiene los primeros 90 días para ganar visibilidad de IA?

Días 1–30: Observar, no bloquear. Implementar telemetría de comportamiento para construir un inventario completo de Shadow AI: extensiones de navegador, actividad del portapapeles, uso de cuentas personales dentro de plataformas aprobadas. Entender qué está ocurriendo antes de tocar algo.

Días 31–60: Clasificar el riesgo. ¿Qué herramientas entrenan con datos de usuarios? ¿Qué departamentos dependen de ellas? Aquí se descubre que Ingeniería vive en un asistente de codificación no verificado.

Días 61–90: Habilitar y hacer cumplir. Desplegar alternativas aprobadas para herramientas de alto riesgo. Implementar coaching en tiempo real: bloquear la acción arriesgada, mostrar la alternativa segura de inmediato. Objetivo: no eliminar por completo el uso de IA, sino lograr un uso de IA 100% visible.

• ¿Cómo se ve realmente un enfoque de habilitación primero – y cómo evitar que se convierta en shadow AI con papeleo extra?

Se construyen rutas despejadas. Proporciona a los empleados una ruta de IA rápida, segura y aprobada para que no necesiten salir de la vía. Eso significa herramientas de IA empresariales con políticas de no retención de datos, integradas en flujos de trabajo existentes, no enterradas en un portal separado.

Para evitar que sea solo teatro, el proceso de aprobación de herramientas de IA debe ser ágil. Si la revisión toma seis meses, los empleados usan la versión de consumidor hoy y no dicen nada. Gobernar los datos, no la aplicación: permitir la herramienta, pero vigilar y controlar qué datos fluyen a través de ella en tiempo real.

from Latest from TechRadar https://ift.tt/nt9hCE1
via IFTTT IA