La industria de los mini PCs está acostumbrada a ver soluciones compactas que prometen rendimiento a precio contenido. Una nueva propuesta de Geekom eleva ese concepto al presentar un clúster distribuido formado por cuatro unidades A9 Mega, conectadas mediante cables USB4 para gestionar cargas de IA a nivel empresarial. Este enfoque, que evita la dependencia de un switch o rack de servidor propietario, apunta a una infraestructura más ágil y local.

Cada unidad A9 Mega está impulsada por el procesador AMD Ryzen AI Max+ 395, que combina 16 núcleos Zen 5, gráficos Radeon 8060S y memoria unificada en una carcasa compacta. Cuando se combinan las cuatro unidades, la memoria total alcanza 512 GB, permitiendo una distribución de modelos y datos a través de Ubuntu, ROCm y DwarfStar para una ejecución distribuida. Además, se incorpora una API compatible con OpenAI para interconectar aplicaciones y agentes de IA con el clúster, manteniendo los prompts, documentos, código fuente y credenciales dentro de la infraestructura local.

La configuración de cuatro nodos facilita que, ante necesidades crecientes de cómputo, los sistemas contribuyan a la inferencia distribuida. Cada máquina puede operar de forma independiente, y cuando se demanda mayor capacidad, se aprovecha la potencia combinada para tareas complejas. El conjunto mantiene una capacidad de memoria de hasta 512 GB en total, con cada A9 Mega admitiendo hasta 128 GB de memoria LPDDR5x e incluyendo soporte para Wi‑Fi 7, Bluetooth 5.4, doble Ethernet de 2.5G y capacidad para manejar hasta cuatro pantallas 8K en entornos profesionales.

En cuanto a rendimiento, Geekom reporta aproximadamente 14.61 tokens por segundo en pruebas de una única concurrencia, con un tiempo P95 para el primer token de alrededor de 0.42 segundos. Aunque las cifras corresponden a benchmarks suministrados por el fabricante y no han sido validadas por terceros, la propuesta enfoca su fortaleza en la capacidad para procesar prompts más largos y mantener la eficiencia en escenarios persistentes de IA empresarial, no solamente en respuestas rápidas de corta duración.

Para usuarios que deseen escalar, la ruta es directa: comenzar con una o dos unidades A9 Mega y ampliar a cuatro nodos conforme aumenten las cargas de trabajo. Cada equipo puede operar de manera autónoma, mientras que los sistemas conectados participan en la inferencia distribuida cuando la demanda lo requiera. El conjunto admite hasta 120 W de rendimiento sostenido y ofrece dos ranuras de almacenamiento M.2 PCIe Gen4x4, con soporte para hasta 8 TB de almacenamiento en RAID.

En términos de precio, Geekom lista el A9 Mega a 3,999 USD con 128 GB de RAM y 2 TB de SSD, alcanzando un precio de alrededor de 16,000 USD para el clúster de cuatro sistemas. En cuanto a capacidad de procesamiento, cada unidad aporta aproximadamente 126 TOPS de potencia de procesamiento combinada y mantiene una TDP de 120 W bajo carga. Es importante destacar que las cifras de rendimiento provienen de benchmarks ofrecidos por el fabricante y no han sido verificadas por terceros; la fiabilidad en uso empresarial sostenido debe evaluarse en condiciones independientes.

Este enfoque de procesamiento local sobre la dependencia de la nube podría interesar a organizaciones que buscan mantener prompts, datos y credenciales dentro de su propia infraestructura, reduciendo exposición a redes públicas. Para entornos que requieren herramientas, políticas, memoria y registros bien gestionados, el clúster ofrece un camino técnico para ejecutar acciones de agentes mediante contextos de hasta 250K tokens, con capacidad de procesamiento de herramientas y memorias distribuidas.

En resumen, la solución de Geekom propone una arquitectura de cluster de mini PCs que combina rendimiento distribuido, memoria abundante y conectividad moderna, todo ello sin necesidad de rack o switches propietarios. Es una propuesta que invita a las empresas a replantear cómo se estructura la IA en instalaciones locales, preservando control, seguridad y escalabilidad para proyectos de IA a gran escala, sin depender de infraestructuras de nube tradicionales.

from Latest from TechRadar https://ift.tt/bTLmGk6
via IFTTT IA