En el dinámico cruce entre computación de alto rendimiento y capacidades de inteligencia artificial, AMD está desarrollando un sistema de rack a escala que busca redefinir cómo se ejecutan y gestionan los agentes de IA. Con configuraciones diseñadas para cargas de trabajo personales, empresariales y técnicas, este proyecto promete una arquitectura modular y adaptable para entornos de centro de datos modernos.

El conjunto propuesto, denominado Helion Agentic AI Rack, admite hasta 32,768 núcleos CPU Zen 6 x86 y 16 aceleradores Instinct MI350P, alcanzando un rendimiento de FP4 de 74 petaflops. Además, ofrece una capacidad de redes de 102 Tbps y utiliza una infraestructura de hardware modular concebida para satisfacer requerimientos diversos de cómputo por agente. Este enfoque se alinea con una visión de racks que pueden ajustarse a distintas necesidades operativas, desde la eficiencia energética hasta el alto rendimiento, pasando por un equilibrio entre capacidad de procesamiento y consumo.

Un rack construido alrededor de tres tipos de agentes de IA

AMD organiza las cargas de trabajo de agentes en tres categorías: asistentes personales, aplicaciones empresariales y cómputo técnico, cada una con requerimientos de procesamiento diferentes. Los agentes personales demandan servidores densos y energéticamente eficientes; las aplicaciones empresariales requieren un balance entre capacidad de agentes y rendimiento; y los cómputos técnicos priorizan la velocidad de procesamiento. La compañía permite a los operadores personalizar la densidad de núcleos de CPU, el rendimiento de procesamiento y el consumo de energía de acuerdo con sus cargas de trabajo.

En la configuración hiperescal, la infraestructura es CPU-only, mientras que la versión empresarial fusiona procesadores y aceleradores gráficos en un rack integrado. Para agentes personales, el sistema utiliza procesadores Venice de 256 núcleos operando a 400 W, priorizando densidad de procesamiento y eficiencia energética. Las cargas empresariales emplean procesadores Venice de 256 núcleos con clasificación de 600 W, mientras que las cargas técnicas utilizan procesadores Venice de 96 núcleos de alta frecuencia.

La configuración empresarial separa la ejecución de agentes, la inferencia y la computación de propósito general en nodos de servidor distintos. Los nodos de sandbox de CPU gestionan la ejecución de agentes, los aceleradores Instinct MI350P soportan la inferencia y los servidores de propósito general alojan bases de datos, almacenamiento y cómputo técnico. Además, se incluye un enrutador de tokens integrado para dirigir las solicitudes de modelos entre modelos en frontera y modelos de código abierto.

El rack admite redes programables, un ecosistema de software de código abierto y hardware ORv3 44OU compatible con las especificaciones del Open Compute Project. Estas características apuntan a una plataforma abierta y adaptable, capaz de integrarse con una variedad de flujos de trabajo y modelos de IA.

¿Es necesario un cambio en los centros de datos tradicionales?

Los centros de datos tradicionales están optimizados para computación en la nube estándar o en entornos corporativos heredados, no para racks que empacan hasta 32,768 núcleos Zen 6 junto con configuraciones intensivas de GPU. Por ello, las instalaciones basadas en arquitecturas existentes pueden carecer de la combinación adecuada de entrega de potencia, capacidades de refrigeración e infraestructura de red para estas configuraciones.

La diversidad de cargas de trabajo introduce otro desafío: los agentes personales, las aplicaciones empresariales y el cómputo técnico requieren diferentes características de procesamiento. AMD propone racks que combinan procesadores de alta densidad con sistemas de alta frecuencia, lo que implica infraestructuras capaces de acoger distintos tipos de servidores y requisitos operativos. Esto representa un reto de planificación para los centros de datos, que deben asignar espacio en rack, potencia y enfriamiento a configuraciones de servidor diferentes en lugar de desplegar sistemas idénticos.

Los operadores podrían necesitar modificar la infraestructura existente si no soporta la combinación seleccionada de servidores de alto recuento de núcleos y alta frecuencia. La conectividad de red añade otra consideración: el rack soporta hasta 102 Tbps de ancho de banda e integra un enrutador de tokens programable. Las instalaciones actuales pueden requerir equipos y software de red compatibles para respaldar este rendimiento y dirigir las solicitudes de modelo entre distintos sistemas de IA.

El Helion Agentic AI Rack está programado para disponibilidad en noviembre de 2026. Sin embargo, AMD no ha divulgado costos completos de actualización de instalaciones ni requerimientos de refrigeración.

Conclusión

La propuesta de AMD para Helion Agentic AI Rack sugiere una visión audaz de la rack-scale computing para IA, orientada a la diversidad de cargas de trabajo y a la necesidad de infraestructuras más flexibles y escalables. Si bien los beneficios potenciales en términos de rendimiento y eficiencia son notables, también surgen desafíos prácticos relacionados con la adecuación de los centros de datos existentes, la gestión de infraestructuras heterogéneas y la planificación de redes para soportar altos volúmenes de tráfico y complejos flujos de modelo. El aterrizaje de este concepto dependerá de la capacidad de los operadores para adaptar sus instalaciones y de la claridad en los costos de implementación y operación a lo largo del ciclo de vida de la plataforma.

from Latest from TechRadar https://ift.tt/xMC1rk2
via IFTTT IA