Nvidia ha generado una conversación decisiva sobre el papel del almacenamiento en la computación acelerada. En un movimiento que fusiona innovación de hardware y una visión colaborativa de la industria, la compañía ha abierto cuFile APIs y la pila de almacenamiento subyacente, lanzando formalmente Storage-Next con más de 40 proveedores de flash y soluciones de almacenamiento como mantenedores fundadores. Además, Nvidia presentó SCADA, un marco que trasladó el camino de control hacia la GPU, dando a múltiples GPUs la capacidad de extraer datos directamente desde el almacenamiento sin intervención constante de la CPU. Este doble enfoque —cuFile para transferencias masivas y SCADA para altas tasas de lectura aleatoria de pequeño tamaño— apunta a optimizar la gestión de datos de IA, especialmente en patrones de acceso de inferencia donde cada contexto de token requiere acceder a bloques de tamaño muy pequeño.

El hilo conductor de la propuesta es el rendimiento de 512 bytes. Tradicionalmente, los controladores de SSD han sido optimizados para lecturas aleatorias en torno a 4 KB durante años, lo que genera una amplificación de lectura considerable cuando se sirven objetos pequeños como embeddings o cachés KV de unos pocos cientos de bytes. A medida que el contexto crece y las conversaciones concurrentes se vuelven más comunes, la memoria de GPU se agota y la estrategia pasa a incluir memoria del sistema y almacenamiento. En este escenario, servir datos desde flash a nivel de 512 bytes reduce la amplificación y permite ampliar el tamaño de contexto y el número de usuarios concurrentes por GPU, impactando directamente en el coste por usuario para servir un modelo.

La apertura de cuFile representa un cambio estratégico: hasta ahora, esta capa residía dentro de CUDA. Su apertura y la creación de un estándar abierto con la colaboración de fabricantes de controladores, arrays y tecnologías de almacenamiento buscan transformar a GPU-initiated storage en una norma de la industria. Sin dependencias propietarias, los proveedores pueden construir productos que aprovechen de forma universal el camino de control impulsado por GPU, beneficiando especialmente a Nvidia, que comercializa una gran parte de estos GPUs.

Las señales de la industria respaldan la dirección: Storage-Next cuenta con la participación de Google y Meta como co-mantenedores, y numerosas alianzas de proveedores de soluciones de almacenamiento y sistemas de almacenamiento de alto rendimiento, como DDN, Dell, HPE, IBM, VAST Data y WEKA, se esperan para la segunda mitad de 2026. También se avanza con el desarrollo de unidades XL-Flash de Kioxia para acceso de 512 bytes y con la progresiva definición de Gen7 SSDs con objetivos de rendimiento ambiciosos, como 100 millones de IOPS por unidad de controlador. Este ecosistema, ya discutido públicamente desde GTC 2025, está consolidando una ruta hacia una interacción más estrecha entre aceleradores y almacenamiento.

A partir de estas iniciativas, emergen consideraciones estratégicas para el sector: el éxito de SCADA depende de la adopción por parte de los fabricantes de controladores, sistemas y arrays que implementen y optimicen el flujo de control mediante GPU. Además, la cooperación entre fabricantes de hardware y plataformas de aceleración podría redefinir el coste total de propiedad y la capacidad de apoyo para modelos de IA cada vez más grandes y complejos. En resumen, Storage-Next y SCADA apuntan a una definición de estándar donde la GPU no solo consume datos, sino que también orquesta su acceso, reduciendo cuellos de botella y permitiendo escalabilidad en contextos de inferencia y procesamiento de IA a gran escala.

from Latest from TechRadar https://ift.tt/t9yfGTr
via IFTTT IA