En los últimos dos años, la adopción de la inteligencia artificial generativa se ha acelerado de forma sin precedentes. Este impulso ha estado impulsado en gran medida por plataformas de modelos de lenguaje (LLM) como Claude, que reportó 28 millones de clientes de pago en marzo. En el mundo corporativo y entre las startups, esto ha presionado a las empresas a invertir en IA para mantenerse al día con los últimos modelos y mejorar la productividad y la eficiencia. Sin embargo, a medida que la IA se ha globalizado, surge una brecha evidente entre la preparación y la gobernanza, así como entre las habilidades de IA y la fluidez requerida para operarlas. La fluidez en IA ya es una expectativa básica para los empleados, mientras los líderes buscan demostrar el retorno de las inversiones significativas realizadas.

El fenómeno conocido como tokenmaxxing, la última tendencia de IA, ha sido objeto de críticas a medida que las empresas exigen que sus empleados utilicen más IA en su trabajo. En esencia, se trata de aumentar la entrada de IA para maximizar la salida. A primera vista parece eficiente e inocuo; en realidad, conlleva riesgos de seguridad considerables.

Tokenmaxxing explicado

Entonces, ¿qué es exactamente tokenmaxxing?

Un “token” es una unidad de datos que procesa un modelo de IA. Por ejemplo, una palabra o un carácter introducido en una búsqueda de un LLM. Así, tokenmaxxing significa, de manera simple, sobrecargar y diseñar prompts de IA para obtener el máximo rendimiento a partir de una única entrada. Esto puede abarcar desde indicaciones excesivamente detalladas hasta la sobrecarga de un chat con información, o pedir a un modelo de IA que proporcione desgloses paso a paso en lugar de resúmenes breves.

La tendencia surge porque los líderes buscan demostrar el ROI de la IA. Se convirtió en una métrica de rendimiento de IA, incluso gamificada en algunas empresas, como Meta, que midió y clasificó el uso de IA y denominó a los mejores como “Token Legends”.

La suposición es que usar IA equivale a estar a la vanguardia de la IA. Sin embargo, las compañías deben evaluar el valor real obtenido de las herramientas de IA y mantener la seguridad como eje central de la conversación.

Los costos ocultos de tokenmaxxing

Aunque parezca una muestra inofensiva de exhibicionismo corporativo, esta tendencia comporta riesgos de seguridad debido a que los proveedores de LLM tienen una probabilidad significativamente mayor de ser catalogados como de alto riesgo frente al SaaS tradicional. Esto se debe al acceso a datos sensibles, propiedad intelectual y flujos de trabajo internos, por lo que es fundamental que las empresas supervisen cómo los empleados utilizan estos recursos.

La rápida adopción de IA ha generado una mentalidad de experimentación. Aunque esto es positivo desde la perspectiva de la innovación, desde el punto de vista de la conformidad, un enfoque de “prueba y error” es más error que prueba.

Los sistemas tecnológicos heredados que la mayoría de las grandes empresas siguen utilizando están controlados por equipos de compras y seguridad y no fueron diseñados para la agilidad de la tecnología IA. Esto implica que tanto la innovación como la conformidad quedan rezagadas, y es la conformidad la que genera preocupaciones significativas en el ámbito de la ciberseguridad.

Cuando los empleados enfrentan presión para lograr resultados, no esperan la aprobación de los equipos de seguridad para usar nuevas herramientas, lo que da lugar a la llamada “shadow AI”. Se trata de herramientas de IA no gestionadas ni aprobadas que operan dentro de los entornos empresariales sin supervisión.

Datos de la industria muestran que el 70% de 16,000 clientes de ciberseguridad indicaron la presencia de alguna forma de shadow AI en sus organizaciones, principalmente debido a herramientas de IA introducidas a través de canales de compra inadecuados que ahora acceden a datos de la empresa sin supervisión o salvaguardas.

Además, ha habido un aumento del 36% en shadow IT año tras año, y las organizaciones descubren, en promedio, alrededor de 140 herramientas de Shadow IT accediendo a su entorno dentro de los 90 días posteriores a la conexión con la plataforma.

En resumen, la adopción de IA está avanzando a un ritmo mucho más rápido que la gobernanza; los empleados priorizan la velocidad sobre el control.

Cómo pueden las empresas defenderse de Shadow AI

El problema central no es tokenmaxxing en sí, sino la incapacidad de las empresas para satisfacer la demanda de los empleados de acceso rápido a las últimas herramientas de IA. Esto provoca fricción entre la necesidad de incorporar herramientas de forma segura y la presión constante por usar IA.

Cuando los equipos de seguridad intervienen y revocan el acceso a herramientas no gestionadas, los empleados las reinstalan. Datos de la industria muestran que, en un periodo de 30 días, una empresa media ve a empleados reinstalando herramientas revocadas más de 100 veces; a lo largo de un año, ocurre unas 1,000 veces.

Para reforzar las defensas, las organizaciones deben diseñar sus sistemas de adquisiciones para igualar la velocidad de la innovación en IA, de modo que puedan mantenerse al ritmo del uso de IA, tal como lo hacen los llamados “Token Legends”.

Tres acciones que las empresas pueden emprender ahora

A medida que la IA generativa se adopta cada vez más en el mundo corporativo, los empleados sentirán mayor presión para demostrar su ROI. Tokenmaxxing es solo una parte de este panorama más amplio. Las empresas deben actuar con rapidez para evitar que la brecha entre experimentación y control se agrande.

Tres medidas que los líderes y los equipos de cumplimiento pueden iniciar hoy para fortalecer las defensas contra Shadow AI son:

• Acortar los plazos de revisión de proveedores para que coincidan con la velocidad de adopción de IA
• Establecer sistemas de monitoreo continuo para detectar amenazas causadas por tokenmaxxing antes de que afecten la seguridad
• Implementar capacitación y políticas para el uso de IA que aseguren que los empleados no expongan datos sensibles ni propiedad intelectual

La nueva consigna es armonizar velocidad y gobernanza, y corresponde a los equipos de seguridad liderar esta tarea.

Este artículo forma parte de la iniciativa TechRadar Pro Perspectives, nuestro canal para presentar las ideas de las mentes más brillantes de la industria tecnológica hoy.

Las opiniones aquí expresadas son las del autor y no necesariamente representan a TechRadar Pro o Future plc. Si estás interesado en contribuir, consulta más información aquí: https://www.techradar.com/pro/perspectives-how-to-submit

from Latest from TechRadar https://ift.tt/3caEACG
via IFTTT IA