Los agentes de IA, al operar con una alta demanda de tokens, pueden generar costos notablemente elevados para las organizaciones. Sin embargo, ahorrar en costos de tokens sin considerar el riesgo podría convertirse en un paso letal. A medida que los precios iniciales de los modelos de IA de vanguardia siguen estabilizándose, las organizaciones han empezado a tomar conciencia de los costos ocultos asociados con los modelos de IA agentica.

Concretamente, los costos de tokens, que pueden parecer insignificantes cuando se miran como cargos aislados, pueden acumularse de forma exponencial a medida que los agentes de IA se vuelven más activos, dejando a las organizaciones con gastos de IA difíciles de anticipar. Esto sitúa a los CISO en una posición delicada. Si buscan reducir los costos de inferencia, en gran parte impulsados por la generación de tokens por parte de la IA agentica, pueden incrementar su riesgo de seguridad y generar deuda técnica oculta que comprometería el Ciclo de Desarrollo Agentico (ADLC). Es un problema que muchos CISO podrían no haber considerado en sus presupuestos de seguridad, pero no se puede dejar sin abordar.

La efectividad de los procesos de seguridad automatizados se ve obstaculizada por la fragmentación de precios en el panorama de IA, ya sea en modelos nano optimizados para tareas específicas o en motores de razonamiento premium.

Las organizaciones deben vigilar de cerca los costos de tokens para evitar que se descontrolen, pero los CISO también deben examinar cómo la IA agentica está afectando su seguridad.

Los costos ocultos de los agentes de IA

La variabilidad de precios ha sido una característica de la IA generativa desde sus inicios. Al poco tiempo de la aparición de ChatGPT, surgió una competencia con modelos de código abierto que permitían personalizar y construir de forma más económica. Esto llevó a una caída abrupta de los costos de uso de sistemas GenAI.

No obstante, la aparición de la IA agentica introdujo costos discretos en la ecuación. Los costos de software agentico varían desde opciones gratuitas de código abierto hasta agentes empresariales, con precios que van desde una cuota única (aproximadamente 15,000 USD para modelos básicos) hasta más de un millón de dólares para modelos globales, y con suscripciones mensuales que pueden oscilar entre unos pocos miles hasta más de 13,000 USD mensuales.

Sin embargo, esos costos son fijos. Los costos de inferencia son otra historia: escalan con el uso y pueden representar hasta el 90% de los costos del ciclo de vida de IA.

Los tokens entran en juego cuando un agente de IA solicita procesamiento a modelos GenAI, los cuales cobran a los agentes por procesar la información. A simple vista, los costos pueden parecer insignificantes: los tokens de entrada suelen oscilar entre 0,15 USD y 5 USD por millón de solicitudes; los tokens de salida, que requieren un procesamiento ligeramente mayor, van desde aproximadamente 0,60 USD hasta 25 USD por millón.

Los costos pueden comenzar pequeños, pero se acumulan rápidamente gracias a que los agentes de IA trabajan muy rápido, de forma autónoma e impredecible. Están diseñados para interactuar con sistemas y otros agentes en toda la empresa. Una sola acción puede generar decenas de llamadas a LLM. El uso de tokens, que ha crecido exponencialmente con la IA agentica, ya ha hecho aumentar el presupuesto de TI en aproximadamente un 20% según estimaciones recientes.

El incremento acelerado de costos asociado a la IA agentica está llevando a los CISO a buscar formas de ahorrar, y una de ellas es identificar LLMs que cobran menos por token. Pero lo que quizá no estén considerando son los factores de riesgo asociados a esos LLMs. Si los CISO se enfocan únicamente en costos, podrían exponerse a riesgos de seguridad.

Pero no siempre seguridad implica costo extra. Dependiendo del uso de la IA agentica, es posible que no sea necesario sacrificar seguridad para reducir costos de tokens.

Control de costos (y riesgos)

Existen varias acciones que las organizaciones pueden emprender para evitar que los costos de tokens se descontrolen, entre ellas:

Emparejar agentes y LLMs con la tarea: los sistemas de IA genéricos pueden resultar económicos, pero carecen de la capacidad de razonamiento profundo para sintetizar seguridad compleja. No todas las aplicaciones requieren un motor de razonamiento; se pueden asignar agentes de bajo costo a tareas de bajo riesgo, reservando LLMs de mayor costo para tareas críticas. También conviene prever qué agentes son propensos a generar más llamadas a LLM.

Factorear puntuaciones de riesgo en la selección de agentes y LLMs. Las implicaciones de seguridad del uso de IA no deben ignorarse. Al diseñar un plan presupuestario, incluir factores de riesgo.

Monitorear flujos de trabajo. Vigilar de cerca los flujos de trabajo ayuda a rastrear costos y desempeño, y permite entender qué herramientas funcionan mejor en cada situación.

Apoyarse en la supervisión humana. A pesar de la autonomía de la IA agentica, la supervisión humana sigue siendo crucial. Los equipos deben recibir capacitación en desarrollo seguro, con roles de propiedad claramente definidos, y contar con una supervisión destacada a lo largo del ADLC.

La IA agentica se está convirtiendo en un elemento clave de las operaciones empresariales, y las organizaciones deben controlar sus costos. Pero una carrera hacia la reducción de precios de tokens genera deuda técnica oculta. En cambio, los CISO deben ponderar rendimiento, costos y riesgos como parte de la creación de un modelo de madurez de seguridad y de una política de gobernanza de IA.

Solo ese enfoque permite desplegar IA agentica sin romper el presupuesto ni exponer a toda la organización a riesgos.

Este artículo forma parte de TechRadar Pro Perspectives, nuestra vía para presentar las ideas de líderes destacados en la industria tecnológica actual.

from Latest from TechRadar https://ift.tt/lbmPuGg
via IFTTT IA