La narrativa actual en torno a la IA empresarial está cambiando rápidamente, pasando de la emoción de las fases piloto a la realidad sobria de la producción. A medida que las organizaciones aceleran la integración de la IA generativa en sus flujos de trabajo, se topan con un obstáculo que tiene menos que ver con la capacidad tecnológica y todo que ver con cómo se despliegan esos modelos.
Cada vez más, las empresas descubren que el problema no es la IA en sí, sino la suposición de que todas las tareas requieren el modelo más poderoso disponible. Esto ha llevado a una tendencia de “tokenmaxxing”: la tendencia a recurrir al modelo más grande y más costoso, incluso cuando una alternativa más pequeña y económica podría completar la tarea. En lugar de emparejar el modelo correcto con el trabajo adecuado, muchas organizaciones asumen que cada flujo de trabajo exige un poder de razonamiento de frontera.
Esa sobreingeniería de la automatización crea una fricción estructural en la rentabilidad. Cuando las empresas tratan cada problema como si requiriera un modelo de frontera, los costos de infraestructura terminan superando el valor de la salida.
El mercado está empezando a ver las consecuencias de este enfoque, con informes de grandes empresas consumiendo presupuestos enteros de IA en meses y cancelando licencias internas ante el incremento de costos.
A medida que las empresas experimentan un “shock” de costos de IA, se vuelve claro que el gasto en IA a menudo supera el valor tangible que entrega.
Más allá de la trampa del piloto
El problema central es que el éxito de pilotos aislados y controlados a menudo sirve como referencia para las iniciativas actuales de IA empresarial. En un piloto, las variables son limitadas y el costo por proceso parece manejable. Pero en cuanto esas puertas se abren al uso a nivel empresarial, surge la realidad desordenada de producción, casos extremos, reintentos en múltiples etapas y variabilidad de alto volumen.
Como la IA probabilística genera un costo diferente para cada ejecución, crea un gasto impredecible que los departamentos de finanzas no pueden pronosticar. Con el software tradicional, un presupuesto fijo se alinea con un costo por tarea predecible. Con la IA, esa estabilidad no existe. Cuando el mismo proceso cuesta un dólar un día y cien dólares al siguiente, no se puede trasladar con seguridad a un presupuesto operativo.
Por ello, el 80% de las empresas admiten que no cumplen las previsiones de costos de IA en más de un 25%, y más del 95% de los pilotos de GenAI no alcanzan una producción significativa. Las empresas no están optimizando actualmente una relación costo-valor; la descubren de forma dolorosa, a menudo después de que el daño financiero ya se ha producido. Para muchos líderes, la única palanca percibida es “usar menos”, reduciendo el uso o restringiendo el acceso.
Pero esta respuesta es insuficiente. El verdadero choque no es el tamaño de la factura en sí, sino la realización de que la única palanca de gestión que queda es restringir el consumo. Al racionar el acceso, la organización está aceptando efectivamente que su implementación de IA es demasiado costosa para operar a escala, convirtiendo una posible ventaja competitiva en una retirada defensiva.
Repensar la economía de la automatización
Hoy, la mayoría de las organizaciones se enfocan en optimizar la selección de modelos, esencialmente decidiendo qué modelo debe manejar una tarea, pero la gran oportunidad está en optimizar el propio trabajo. Porque los costos se reinician cada vez que una solicitud se inicia desde cero dentro de un gran modelo, asumir que cada tarea requiere un nivel de frontera de LLM pronto se convierte en un error costoso.
Las herramientas de enrutamiento estándar operan a nivel de la solicitud: analizan una tarea entrante y la envían al modelo que parece adecuado, pero ese modelo aún realiza toda la tarea como una generación única y opaca. Lo único que se optimiza es qué modelo responde, y nada producido hace que la próxima ejecución sea más barata. La verdadera escalabilidad exige ir un nivel más profundo.
Esto implica cambiar hacia una arquitectura que asuma la propiedad del proceso comercial, en lugar de depender únicamente del modelo subyacente. En lugar de simplemente enrutar el trabajo a un punto de extremo, este enfoque arquitectónico gestiona el propio proceso. Se sitúa por encima de modelos individuales, dividiendo un flujo de trabajo en pasos discretos respaldados por código para generar una trazabilidad auditable en cada etapa.
Esta única elección arquitectónica es lo que separa la optimización estructural de la mera gestión de costos superficiales, ofreciendo una profundidad de eficiencia que las herramientas de enrutamiento convencionales no pueden alcanzar. Este cambio conlleva una estructura de costos más eficiente. En lugar de depender de un único modelo para realizar todas las tareas, la computación se distribuye entre pasos especializados respaldados por código, mejorando la utilización de recursos y cambiando la forma en que se ejecuta el flujo de trabajo.
En un flujo de procesamiento de préstamos de alto volumen, por ejemplo, este enfoque mejora la economía general al reducir la dependencia de la inferencia de modelos costosos cuando no es necesaria. Avanzar hacia una arquitectura modular y orientada a procesos ofrece un camino sostenible para gestionar los costos de operaciones de alto volumen.
Como el proceso está desacoplado de cualquier proveedor específico, las organizaciones conservan plena flexibilidad. Pueden aplicar libremente estrategias de optimización, rotando entre LLMs de frontera, pesos de código abierto y modelos más pequeños y especializados a medida que evolucionan el rendimiento y los costos, sin necesidad de reconstruir su infraestructura central.
Y dado que cada ejecución produce una trazabilidad determinista y auditable de razonamientos, llamadas a herramientas y resultados, esos registros se convierten en activos de datos valiosos, mejorando alternativas especializadas que ya saben manejar tareas predecibles sin recurrir a llamadas de propósito general.
Elevando la capacidad humana a través de la precisión
El objetivo de este enfoque es pasar de la IA como experimento limitado a la IA como medio estándar para desempeñar el trabajo. Cuando las tareas cognitivas repetitivas, como verificar datos o confirmar divulgaciones, son tratadas por trabajadores digitales automatizados, el rol humano cambia por completo. Los analistas ya no dedican su día a abrir archivos y teclear datos; en su lugar, se enfocan en excepciones de alto juicio, estrategias complejas y resolución creativa de problemas.
Esta es la promesa de una adopción sostenible de la IA. Al convertir gastos impredecibles en una base de costos conocida y centrarse en re-arquitectar flujos de trabajo en lugar de simplemente cambiar de modelo, las empresas pueden finalmente abrir las compuertas. Esto ofrece un camino hacia un ROI sostenible y medible a medida que la adopción escala, empoderando a su personal para centrarse en el trabajo de alto valor y evaluativo que la tecnología no puede replicar.
El futuro de la IA empresarial no estará determinado solo por la capacidad del modelo, sino por la capacidad de desplegar sistemas de IA integrales que finalmente hagan que la tecnología sea económicamente viable a escala. Es hora de dejar atrás la era de la experimentación insostenible y abrazar un enfoque disciplinado y arquitectónico para la adopción de IA. Para las organizaciones listas para avanzar más allá de la etapa piloto, el reto ya no es demostrar que la IA funciona, sino hacer que sea lo suficientemente económica para escalar.
Hemos revisado, puntuado y clasificado las mejores laptops para negocios.
Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mentes más brillantes de la industria tecnológica actual.
Las opiniones expresadas aquí son propias del autor y no necesariamente reflejan a TechRadarPro o Future plc. Si estás interesado en contribuir, descubre más aquí: https://www.techradar.com/pro/perspectives-how-to-submit
from Latest from TechRadar https://ift.tt/8cuFhZy
via IFTTT IA
Pacosite's Blog 