En la cumbre Global Open Compute Project, Intel presentó una unidad de procesamiento gráfica con una capacidad de memoria de hasta 480 GB, una cifra inusualmente alta diseñada para cargas de trabajo de inferencia de IA exigentes.
La GPU, denominada Intel GPU D-series (anteriormente conocida como Crescent Island), alberga hardware especializado para cómputo adicional y se posiciona como una opción de alto rendimiento para entornos de centros de datos donde la memoria y la eficiencia energética son prioritarios.
Con respecto a la competencia, la D-series ha superado a la Blackwell Ultra B300 de Nvidia, que ofrece 288 GB de memoria HBM3e, consolidándose como la GPU para centros de datos con mayor capacidad de memoria disponible en el momento de su anuncio.
Intel prioriza la capacidad de memoria
A diferencia de las tarjetas gráficas modernas que suelen incorporar memoria GDDR7, Intel optó por LPDDR5X, una tecnología de memoria común en laptops y otros dispositivos de bajo consumo energético.
Esta elección indica una estrategia centrada en la capacidad de memoria y en la eficiencia energética para la inferencia de IA, en lugar de diseñar una tarjeta gráfica orientada al rendimiento en juegos.
La configuración sugiere que la empresa busca habilitar modelos de IA muy grandes en una o varias tarjetas: la aceleradora puede soportar modelos de hasta 300 mil millones de parámetros en una sola tarjeta, y un sistema de ocho GPUs puede alojar modelos que superan el billón de parámetros. Estas capacidades resultan especialmente útiles para prompts prolongados, solicitudes de inferencia simultáneas, servicios de IA empresariales y aplicaciones en robótica que requieren procesamiento ágil.
“La inferencia se está convirtiendo en la carga de trabajo definitoria de la IA, y las empresas necesitan una infraestructura que ofrezca el rendimiento adecuado al costo adecuado”, comentó Anil Nanduri, vicepresidente de Productos de IA y GTM en el Grupo de Centros de Datos de Intel. “Con la Intel GPU D-series, nos enfocamos en hacer que la inferencia de alta capacidad sea práctica de desplegar y rentable de escalar”.
La capacidad de 480 GB es especialmente relevante cuando los sistemas de IA deben mantener pesados pesos de modelos y datos asociados accesibles durante la inferencia.
Sin embargo, la capacidad de memoria por sí sola no determina la velocidad de respuesta de una GPU, ya que el rendimiento también depende del ancho de banda, de los recursos de cómputo, del software y de las características de la carga de trabajo. Intel indica una capacidad de 1.3 petaflops en FP8 para la D-series, un formato numérico utilizado para acelerar operaciones de IA reduciendo las demandas de memoria en comparación con formatos de mayor precisión, y un ancho de banda de memoria de 1.5 TB/s que mide la rapidez con la que los datos pueden moverse entre la memoria y el procesador.
Intención de encajar en los centros de datos existentes
La compañía especifica un envelope de potencia de 350 W y un factor de forma PCIe estándar, junto con enfriamiento por aire y compatibilidad de software a lo largo de sus plataformas de GPU. Estas características buscan simplificar el despliegue en centros de datos ya existentes sin requerir sistemas de refrigeración especializados ni infraestructuras en rack completamente nuevas.
Intel también planea conectar la aceleradora con sus procesadores Xeon, permitiendo que las CPUs coordinen tareas, gestionen el movimiento de datos y manejen cargas de trabajo que no requieren aceleración por GPU. Este enfoque responde a entornos de IA cada vez más compuestos por múltiples etapas, que abarcan recuperación, razonamiento, orquestación, herramientas externas y ejecución.
“Los modelos abiertos están ampliando las opciones para que las empresas implementen IA”, comentó Nicolas Dubé, vicepresidente corporativo de Sistemas y Soluciones para Centros de Datos de Intel. “Para realizar su potencial completo, las organizaciones requieren una infraestructura que pueda emparejar distintos tipos de cargas de trabajo con la inteligencia adecuada, los recursos de cómputo oportunos y una economía adecuada. Eso es lo que entendemos por poner cada prompt en su lugar”.
Al momento de escribir estas líneas, Intel no ha revelado el precio minorista público ni una fecha de disponibilidad general específica para la GPU D-series.
from Latest from TechRadar https://ift.tt/GW0hi7V
via IFTTT IA
