La implementación de inteligencia artificial a escala ha dejado claro que la reducción de tokens no es la única respuesta para controlar gastos. Recientemente se discutió mucho sobre el seguimiento y la gamificación del uso de tokens para etiquetar a los empleados como usuarios avanzados de IA. Sin embargo, a medida que las organizaciones amplían el uso de agentes de IA, el costo total crece y las estrategias deben volverse más sofisticadas. Algunas empresas ya señalan presupuestos de IA desbordados: un caso destacado fue la experiencia de Uber, que afirmó haber agotado su presupuesto de IA para 2026 en apenas cuatro meses. Este desencadenante ha impulsado un interés renovado por el enrutamiento de modelos y por aprovechar modelos de código abierto para optimizar el gasto en IA. La aparición de modelos chinos como Kimi K3, que ofrecen acceso a capacidades cercanas a las de frontera a precios más bajos, ha alimentado aún más el entusiasmo.
La idea de asignar qué modelos deben usarse para qué trabajo es una manera legítima de optimizar costos, pero no debe considerarse aislada ni simplista. Las organizaciones que carecen de la disciplina para definir claramente cuándo debe usarse un modelo de lenguaje grande (LLM) y cuándo tiene sentido procesar datos fuera del modelo corren el riesgo de incurrir en consumo de tokens innecesario y costos inflados. Este momento debe verse como una oportunidad para mirar más allá de la mera reducción de tokens como la única ruta para optimizar los gastos en IA.
La falacia de usar LLMs como motor analítico
Sin duda, los LLMs son transformadores y muchos disfrutan utilizándolos. No obstante, vale la pena examinar con detalle cómo se están empleando. Tareas como reconciliación de archivos, aplicación de reglas de negocio, controles de cumplimiento e interpretación de documentos fuente pueden ser realizadas por LLMs, pero no siempre de forma cost-effective. Los LLMs reconstruyen contexto para formular respuestas, y cuando operan de forma aislada no acceden al conocimiento organizativo que permite llegar a soluciones rápidas sin consumir tokens a través de razonamiento verbal para hallar una respuesta que satisfaga definiciones, políticas y contextos específicos de la empresa.
Además, muchos problemas presentados a los LLMs son repetibles. No tiene sentido que los modelos partan desde cero para responder la misma cuestión una y otra vez, en conversaciones de usuarios y a lo largo del tiempo. Este enfoque limitado, centrado exclusivamente en la selección de modelos, ignora que pedir a los modelos que redescubran información en cada punto es ineficiente. Reducir el consumo innecesario de tokens debe ser parte integral de la ecuación.
El token más barato es el que nunca se genera
Una limitación clave que impulsa los costos en IA es que muchos sistemas no están conectados a la lógica de negocio. Falta una capa de lógica de negocio en las arquitecturas de IA, donde flujos de trabajo analíticos para tareas repetibles, reglas y definiciones específicas de la organización, estén disponibles en vivo. Estas capas permiten establecer y aplicar salvaguardas de cumplimiento sobre la salida analítica.
Cuando se integra una capa de lógica de negocio, los LLMs tienen una opción más eficaz para responder a ciertos tipos de consultas. Imaginemos a un empleado que solicita a un modelo calcular el desempeño de margen de su equipo. De forma aislada, un modelo podría extraer datos de múltiples fuentes, expandir enormemente su ventana de contexto y aun así fallar al no considerar definiciones internas de conceptos como margen. En contraste, una capa de lógica de negocio ofrece flujos de trabajo preconstruidos que calculan variables clave de margen a diario, y el modelo puede trabajar con esos resultados.
Los flujos de trabajo repetibles, apoyados en la lógica de negocio existente, ayudan a optimizar costos de IA. Las capas de lógica de negocio también facilitan la integración con plataformas de datos en la nube y con LLMs, funcionando como tejido conectivo que evita la duplicación de costos de cómputo. Por ejemplo, el cómputo puede realizarse en una plataforma de datos en la nube, mientras que el resultado se utiliza en un flujo de trabajo analítico al que un LLM puede recurrir. Esto reduce la necesidad de un cómputo intensivo de LLM para interpretar datos de la nube.
La necesidad crítica de acertar
Más allá de gestionar costos granularmente, conviene reconocer que la implementación sólida de la lógica de negocio en entradas y salidas de IA genera beneficios a largo plazo. La ausencia de lógica de negocio reduce la confianza en las herramientas de IA y ralentiza la adopción que podría generar ROI. En dominios empresariales como impuestos, cumplimiento y finanzas, las respuestas deben ser deterministas; ahí, la lógica de negocio y su movilización son la clave para obtener respuestas confiables.
Con la expansión de agentes en las empresas, esta necesidad será cada vez más evidente. Mil agentes pueden generar mil respuestas distintas a la misma pregunta, y eso no es deseable. Una fuente de verdad empresarial, a través de una capa de contexto empresarial, ayuda a mantener la coherencia.
Un nuevo enfoque para la optimización de costos
La selección de modelos, por sí sola, es insuficiente para optimizar costos si no se limita el consumo innecesario de tokens. Las organizaciones que combinan flujos de trabajo confiables, lógica de negocio gobernada y casos de uso bien definidos obtendrán los mejores retornos de la adopción de IA. Además, conviene reconocer que la integración entre plataformas de datos en la nube, LLMs y flujos de trabajo analíticos crea un tejido que evita la duplicación de cómputo y facilita un uso más eficiente de los recursos.
Como ejemplo, el cómputo puede ejecutarse en una plataforma de datos en la nube; el resultado puede alimentar un flujo analítico del cual un LLM extrae información. En este marco, la necesidad de cómputo intensivo de LLM para interpretar datos de la nube se reduce significativamente.
La visión de futuro
Más que buscar la manera más barata de cada token, la optimización de costos en IA pasa por arraigar las inversiones en IA en procesos y estructuras de negocio que sean estables, auditables y escalables. Las empresas que integren flujos de trabajo confiables, una lógica de negocio bien definida y casos de uso enfocados verán un mayor retorno de la inversión, con una adopción más rápida y menos variabilidad en las respuestas.
Este enfoque se alinea con la tendencia de avanzar hacia una IA que actúe como un socio de negocio, no solo como una caja negra de procesamiento. Si le interesa profundizar, hemos explorado estrategias y ejemplos que muestran cómo convertir la lógica de negocio en el eje central de las soluciones de IA para empresas.
from Latest from TechRadar https://ift.tt/hEtbFAB
via IFTTT IA
