Marvell ha presentado un módulo de memoria fotónica que busca separar la capacidad de memoria de los aceleradores y compartirla entre varios servidores. La propuesta apunta a uno de los límites crecientes de la infraestructura de inteligencia artificial: mantener disponibles grandes cantidades de memoria para modelos con contextos extensos sin tener que añadir aceleradores costosos solo para obtener más capacidad.
La tecnología, denominada Photonic Fabric Memory Module, emplea conexiones ópticas para enlazar memoria con procesadores a través de fibra. Marvell la describe como la primera memoria de alta capacidad y alto ancho de banda interconectada ópticamente. Sin embargo, el sistema aún está en fase de desarrollo: la compañía prevé iniciar el muestreo con clientes en 2027.
Un conjunto de 16 módulos puede reunir 32 TB de DDR5
Conviene distinguir entre el módulo y el sistema completo. Cada módulo combina 72 GB de memoria HBM3e, hasta ocho ranuras para DIMM DDR5, un ASIC Photonic Fabric y 7,2 Tb/s de entrada y salida óptica. La cifra de 32 TB corresponde a un appliance que agrupa 16 módulos y puede compartir su memoria entre hasta 16 hosts, que podrían ser servidores o aceleradores individuales.
Con las ocho ranuras de cada módulo ocupadas por RDIMM de 256 GB, el appliance alcanzaría 32 TB de DDR5. Los 16 módulos sumarían además 1.152 GB de HBM3e, una capacidad que Marvell redondea a aproximadamente 1 TB y plantea utilizar como una caché de escritura más rápida frente a la DRAM. La conexión entre módulos se basa en una arquitectura de fibra pasiva de tipo all-to-all, en lugar de un conmutador eléctrico.
La idea es que la memoria pueda crecer de forma más independiente del cómputo. Hoy, la HBM se encuentra junto al procesador dentro del mismo paquete; para obtener más capacidad de este tipo suele ser necesario adquirir más aceleradores. Eso puede resultar costoso y, como ha señalado Dave Lazovsky, puede convertir a una GPU en «el controlador de memoria más caro del mundo».
El objetivo: conservar y compartir la caché KV
El caso de uso principal es la caché KV, la memoria de trabajo que un modelo de lenguaje utiliza para mantener el contexto de una conversación. Su tamaño aumenta con las ventanas de contexto extensas y las sesiones de agentes de IA. Cuando la caché supera la memoria local disponible —como la HBM o la DRAM del servidor—, el sistema puede descartar datos y volver a calcularlos, o recuperarlos desde un almacenamiento mucho más lento.
Una capa de memoria compartida podría permitir que un acelerador reutilizara contexto calculado previamente por otro. Ravi Mahatme, responsable de gestión de producto de Photonic Fabric, ha destacado precisamente la posibilidad de crear una caché KV entre nodos. La propuesta también responde a una tendencia más amplia: a medida que crecen las cargas de IA, la memoria debe poder escalar sin depender en la misma medida de la compra de nuevo cómputo.
El argumento económico es atractivo: si los operadores pueden comprar memoria por separado, quizá no necesiten adquirir GPUs únicamente para aumentar la capacidad disponible. Pero Marvell todavía no ha publicado cifras que cuantifiquen el ahorro. La compañía ha mencionado una reducción del coste por gigabyte y de los costes de inferencia, sin aportar mediciones concretas.
También existe un desafío de suministro y coste. El appliance utiliza hasta 128 ranuras DIMM y depende de RDIMM DDR5, un componente cuyo precio se ha visto presionado por la demanda. Por tanto, separar la memoria del acelerador no garantiza por sí solo que la capacidad resulte económica: el coste y la disponibilidad de los módulos de memoria serán factores decisivos.
Una arquitectura con antecedentes en Celestial AI
La propuesta no parte de cero. Celestial AI presentó una arquitectura similar en 2025: un conjunto de 16 módulos con 32 TB de DDR y alrededor de 1 TB de HBM. El cambio más visible ahora es que Marvell muestra un módulo físico y sitúa el diseño en una hoja de ruta con muestreo previsto para 2027.
Ese calendario deja cuestiones importantes por resolver. Todavía hacen falta silicio funcional, clientes identificados, socios de memoria y resultados de rendimiento medidos sobre hardware real. También habrá que comprobar cómo se comporta el sistema en cargas de trabajo efectivas y qué ancho de banda obtiene cada host cuando varios usuarios comparten el conjunto de memoria.
Nvidia se posiciona en varias vías
Nvidia tampoco está dejando este espacio sin explorar. En marzo de 2026 invirtió 2.000 millones de dólares en Marvell en un acuerdo relacionado con NVLink Fusion y la fotónica de silicio. La colaboración le permite participar en plataformas con silicio personalizado: NVLink Fusion requiere incluir al menos un producto de Nvidia, aunque otros componentes del sistema puedan proceder de terceros.
La compañía desarrolla además alternativas propias para la gestión de memoria y contexto. BlueField-4 STX, presentado en GTC 2026, es una capa de memoria de contexto basada en almacenamiento flash y orientada a la caché KV. Nvidia afirma que puede ofrecer hasta cinco veces más rendimiento de generación de tokens que el almacenamiento basado en CPU; los sistemas de sus socios están previstos para la segunda mitad de 2026. Asimismo, Nvidia invirtió anteriormente en Enfabrica, cuya tecnología permite agrupar memoria para clústeres de GPU.
En fotónica, Nvidia ha invertido en proveedores como Lumentum y Coherent, presentó conmutadores fotónicos y prevé incorporar óptica de empaquetado conjunto en sistemas de la generación Feynman, prevista para 2028. Su estrategia no consiste en escoger entre cobre y óptica, sino en utilizar ambas tecnologías según las necesidades de escala y rendimiento.
Una promesa que aún debe demostrar su valor
El Photonic Fabric Memory Appliance ofrece una respuesta interesante a la presión que la IA ejerce sobre la memoria: separar capacidad y cómputo, y facilitar que varios hosts compartan datos. Pero, por ahora, la propuesta es un diseño en desarrollo, no un producto disponible. El rendimiento real, la fiabilidad, el coste total y la disponibilidad de la memoria DDR5 determinarán si la arquitectura puede cumplir su promesa.
La oportunidad es clara, pero los ahorros de capital siguen siendo una hipótesis hasta que Marvell publique cifras y los clientes puedan probar el sistema. Hay una ironía adicional: Nvidia, cuyo negocio se apoya en aceleradores que concentran cómputo y memoria, posee una participación de 2.000 millones de dólares en Marvell y puede obtener ingresos mediante NVLink Fusion incluso si parte de la infraestructura adopta soluciones personalizadas.
from Latest from TechRadar https://ift.tt/4H6YsqX
via IFTTT IA
