En los últimos años, la mayor parte de las conversaciones sobre infraestructura de IA giraron en torno al enorme tamaño del entrenamiento de IA.
Las fábricas de entrenamiento de IA que las empresas líderes han construido para desarrollar modelos de frontera son impresionantes: cientos de miles de GPUs, consumo energético comparable al de una ciudad mediana y decenas de petabits por segundo para escalar el entrenamiento entre campus.
Pero a medida que la adopción de IA se acelera y sus aplicaciones se expanden, surge un desafío de infraestructura más amplio que merece atención. La presión real y sostenida sobre las redes proviene de la demanda de IA: la inferencia.
La inferencia es lo que sucede cada vez que alguien pregunta a un chatbot, carga un archivo en una herramienta de productividad para analizarlo o confía en un resumen generado por IA dentro de su correo o resultados de búsqueda. En una base por consulta, el tráfico generado es ligero, nada comparable con una carrera de entrenamiento masivo.
Ahora multiplícalo por el número de personas que interactúan con IA en todo el mundo, y considera que cada vez más involucra vídeo, imágenes y archivos de apoyo. Verás de inmediato dónde se está formando el próximo gran motor de demanda de redes.
Con la inferencia, la curva de crecimiento es más empinada, global y ampliamente distribuida, y está reconfigurando cómo se diseña la conectividad de los data centers y el ecosistema de redes que conecta regiones en la nube, metros y continentes.
El punto de inflexión de la inferencia
Más poderoso que ver a los usuarios adoptar IA más rápido que cualquier tecnología anterior es el efecto compuesto de incorporar funciones de IA en plataformas que ya sirven a miles de millones de usuarios.
Si observas tu ecosistema tecnológico, seguramente tengas capacidades de IA ya integradas en tu motor de búsqueda, correo electrónico, software de oficina, mapas, feeds sociales y tu teléfono inteligente. Integrar IA en estos productos garantiza acceso instantáneo y un uso inevitablemente masivo.
El resultado es un crecimiento asombroso de los volúmenes de inferencia. Tomemos a Google como ejemplo: reportó que el número de tokens de IA procesados mensualmente se multiplicó por 50 año tras año a principios de 2025… y luego lo duplicó de nuevo solo dos meses después, y sigue creciendo a un ritmo impresionante, como se observa en el crecimiento del 60 por ciento mes a mes anunciado en abril de 2026.
Las ganancias de eficiencia a nivel de hardware y algoritmos ayudan a atenuar la demanda de recursos adicionales, pero no resuelven todo. Entregar este volumen aumentado de inferencia requiere desplegar con mayor celeridad nueva capacidad de GPU y un número cada vez mayor de data centers de inferencia distribuidos geográficamente.
Esa distribución geográfica es la primera razón por la que la inferencia no es solo una historia de cómputo, sino, en su núcleo, una historia de redes.
De texto a vídeo: el impacto de los modelos multimodales en la red
Hasta hace poco, la aportación de la IA al tráfico de Internet había sido limitada. Un prompt de texto y una respuesta de texto ocupan sólo unos kilobytes, insignificantes frente a un minuto de streaming de vídeo.
Eso está cambiando rápidamente.
Los modelos multimodales analizan y generan imágenes, audio, vídeo y contenido en 3D. Un usuario que sube un clip de vídeo corto en HD para su análisis o edición impulsa varios megabytes hacia arriba en segundos.
Investigadores, estudiantes y trabajadores están introduciendo cada vez más colecciones de documentos en modelos para resumir hallazgos clave y generar informes detallados. Análisis de vídeo en la nube que procesan flujos de cámaras para proporcionar ideas y alertas están encontrando su camino hacia modelos de negocio viables.
Multiplica esas interacciones por cientos de millones o miles de millones de usuarios y el tráfico de inferencia se convierte en un motor importante de flujos de tráfico distribuidos y generalizados.
Los modelos de razonamiento añaden un segundo factor de estrés. En lugar de producir una respuesta instantánea, descomponen los problemas en múltiples pasos internos, a menudo incorporando información de apoyo en tiempo real. Una única respuesta visible para el usuario puede sustentarse sobre decenas de recuperaciones en segundo plano, enviando megabytes de datos entre modelos, sistemas de almacenamiento y fuentes externas, muchos de ellos atravesando límites de data centers.
Y una presión adicional proviene de la expansión de la ventana de contexto. Los modelos de frontera pueden ahora ingerir prompts enormes: conjuntos completos de documentos, historiales de conversación, bases de conocimiento recuperadas y más. La generación basada en recuperación se ha convertido en una técnica ampliamente adoptada para muchas aplicaciones empresariales de IA, y consiste en inyectar conocimiento contextual en el prompt del modelo en cada consulta.
En conjunto, estas tendencias significan que la inferencia ya no es una carga ligera desde el punto de vista de la red. Se está convirtiendo en un motor dominante de crecimiento de tráfico, tanto entre data centers como entre usuarios y la infraestructura de IA.
Cómo debe cambiar el enfoque de la DCI
Los modelos de IA ahora están distribuidos en distintas regiones, y las señales de uso y el aprendizaje reforzado deben fluir de vuelta a la inteligencia centralizada.
Flujos de inferencia de múltiples pasos y cargas de trabajo desagregadas se extienden cada vez más entre sitios con capacidades complementarias; piense en uno para precarga centrado en alto cómputo y procesamiento de gran contexto, otro para decodificación centrado en generación de tokens de baja latencia y eficiencia de memoria y caché.
Y los requisitos de IA soberana están empujando cargas de trabajo a jurisdicciones específicas, multiplicando el número de instalaciones que deben conectarse con alta capacidad y fiabilidad.
Los enlaces típicos de DCI de inferencia ya operan a múltiples terabits por segundo por ruta. El número de rutas crece junto con la capacidad de cada una, impulsado por topologías de interconexión más resilientes y diversificadas, combinadas con un aumento en el volumen y la distribución geográfica de los data centers de inferencia emergentes.
Conectar data centers de inferencia es solo una parte de la ecuación. La otra parte implica conectar usuarios, agentes, dispositivos y organizaciones para ejecutar sus cargas de trabajo de inferencia a través de esta infraestructura en malla.
Las rampas multicloud están evolucionando para permitir el movimiento de grandes conjuntos de datos empresariales entre plataformas de IA. Se necesitará un acceso de banda ancha más simétrico y una agregación escalable para respaldar la subida de vídeos desde cámaras hacia la nube de IA. Todo el ecosistema de redes debe adaptarse.
Entonces, ¿cómo pueden las operadoras de red mantenerse al día con la demanda y las empresas aprovechar estas tendencias?
Conectando los puntos — o los tokens
Las operadoras ya responden con planeación centrada en escalabilidad, flexibilidad, eficiencia y seguridad. Para maximizar la capacidad de cada par de fibras, un recurso más valioso y codiciado que nunca, están adoptando plataformas ópticas coherentes y sistemas capaces de 1.6 Tb/s por longitud de onda.
Un ejemplo es Lumen Technologies, una de estas operadoras que está construyendo para el mañana. Expande su red a una velocidad increíble y, para ello, utiliza un transceptor coherente de gran ancho de banda de 1.6 Tb/s.
Además, la naturaleza variable y diversificada de los patrones de tráfico de inferencia hace que las redes estáticas sean menos que ideales. Muchas operadoras están recurriendo a un control de red multinivel asistido por IA para desplazar capacidad y optimizar el rendimiento casi en tiempo real.
De nuevo, Lumen es un ejemplo destacado; al aprovechar un conjunto de herramientas de control, la operadora obtiene una visibilidad integral y maximiza el uso y rendimiento de sus activos de fibra desde un único punto de control.
Para rematar, dado que el tráfico de inferencia a menudo incluye datos sensibles, las operadoras están incorporando cifrado a nivel óptico en cualquier despliegue de DCI.
Las cargas de trabajo de inferencia están evolucionando más rápido de lo que cualquier modelo de pronóstico puede seguir. Las redes mejor posicionadas para los próximos cinco años serán aquellas diseñadas para escalar en capacidad, alcance e inteligencia sin necesitar grandes actualizaciones cada vez que la carga suba de peso.
El entrenamiento definió la primera ola de construcción de infraestructura de IA. La inferencia está moldeando la segunda: una ola mucho más global y compleja que transformará el panorama de redes.
Utiliza el mejor almacenamiento en la nube para empresas para gestionar tus datos.
Este artículo se produjo como parte de TechRadar Pro Perspectives, nuestro canal para presentar a las mejores mentes de la industria tecnológica hoy.
Las opiniones aquí expresadas son las del autor y no necesariamente las de TechRadarPro o Future plc. Si estás interesado en contribuir, infórmate aquí: https://www.techradar.com/pro/perspectives-how-to-submit
from Latest from TechRadar https://ift.tt/zighQYU
via IFTTT IA
