Revolut está reduciendo su dependencia de Claude y trasladando parte de sus cargas de trabajo de inteligencia artificial a modelos de pesos abiertos de Z.ai alojados en su propia infraestructura. Según los datos comunicados por la compañía, el cambio ha recortado hasta un 90% los costes de inferencia y ha impulsado la productividad de sus equipos de desarrollo.
La entidad financiera, con sede en Londres, no ha abandonado la IA. En su lugar, ha optado por operar sus propios modelos, una estrategia que, según sus responsables, permite ampliar el acceso de los desarrolladores sin las mismas restricciones de presupuesto o consumo de tokens que acompañaban a los servicios comerciales.
## De Claude a modelos autoalojados
Revolut ya había experimentado con Gemini, de Google, antes de adoptar Claude, de Anthropic. Sin embargo, algunos usuarios intensivos llegaban a gastar miles de dólares al mes en tokens, sin que el rendimiento obtenido justificara siempre el desembolso.
«Éramos muy escépticos sobre el coste de la IA», señaló David Abitbol, responsable de infraestructura de Revolut, durante una conferencia. Según explicó, la empresa comenzó su implementación con límites presupuestarios estrictos.
El paso a modelos autoalojados de Z.ai parece haber modificado esa ecuación. Abitbol atribuyó a la nueva opción una mejora del 70% en la productividad relacionada con los plazos de entrega y del 60% en la productividad del tiempo dedicado a programación. También destacó las ventajas de privacidad y auditabilidad de los modelos GLM.
## El ahorro frente al coste de la infraestructura
La compañía habría reducido el coste de inferencia a unos 0,30 dólares por millón de tokens de entrada y salida con GLM-5.1, aproximadamente una décima parte de lo que cuestan servicios comerciales comparables. Al gestionar su propia capacidad, Revolut también obtiene más control sobre la disponibilidad y el uso de sus recursos.
No obstante, el autoalojamiento no elimina los costes: cambia su naturaleza. La compra de aceleradores, el mantenimiento, la energía y la operación de la infraestructura requieren una inversión considerable. Según las informaciones disponibles, Revolut cuenta con 56 GPU Nvidia B200. El modelo necesitaría alrededor de 380 GB de memoria de GPU, sin incluir los entre 6 y 26 GB adicionales que se estiman por usuario para conservar el contexto.
Por ello, comparar únicamente el precio por token puede ofrecer una visión incompleta. Para valorar la rentabilidad, las empresas deben considerar también la utilización de los equipos, los costes operativos, el personal necesario y el rendimiento real de los modelos en cada tarea.
## Una estrategia más selectiva para la IA
La experiencia de Revolut ilustra un cambio de enfoque: en lugar de recurrir a los modelos más avanzados para todas las tareas, las empresas pueden asignar modelos distintos según la complejidad, los requisitos de privacidad y el coste. El autoalojamiento puede resultar atractivo cuando el volumen de uso es elevado y relativamente predecible, aunque no será necesariamente la mejor opción para todas las organizaciones.
La incertidumbre de las facturas también influye en estas decisiones. Los modelos comerciales pueden facilitar el inicio, pero el consumo variable dificulta anticipar el gasto. «El código abierto es ahora una prioridad en Revolut y nuestra economía es favorable. La facturación es plana; no recibimos sorpresas al final del mes, y los modelos de frontera son la excepción», afirmó Abitbol.
El caso subraya una lección importante: incorporar IA sin una estrategia clara no garantiza ahorro ni productividad. La decisión entre contratar un servicio externo y operar modelos propios depende de los costes totales, las necesidades de control y el valor que la tecnología aporte a cada flujo de trabajo.
from Latest from TechRadar https://ift.tt/mulEBIi
via IFTTT IA
