Etched, una startup de chip AI con sede en Estados Unidos, ha asegurado una nueva ronda de financiación gracias al apoyo de SK Hynix, y ha alcanzado una valoración de 10.3 mil millones de dólares. La empresa se enfoca en procesadores diseñados específicamente para cargas de inferencia de IA.

La compañía sostiene que las GPUs convencionales ofrecen más capacidad computacional de la necesaria para muchas tareas de inferencia, pero carecen de la memoria suficiente para modelos de IA cada vez más complejos. La nueva financiación permitirá avanzar en la producción de sistemas de inferencia a nivel de rack, estructurados alrededor de chips personalizados, memoria compartida y un consumo energético menor, en lugar de depender de procesadores gráficos de uso general.

Etched apuesta por chips de inferencia personalizados que podrían superar a GPUs tradicionales

Fundada por los exalumnos de Harvard Gavin Uberti, Robert Wachen y Chris Zhu, Etched se centra exclusivamente en la inferencia de IA, dejando a un lado el entrenamiento de grandes modelos de lenguaje. La empresa sostiene que sus sistemas combinan tecnología de Inferencia de Baja Tensión (LVI, por sus siglas en inglés) con Memoria a Escala de Clúster (CSM), lo que permite a los procesadores acceder a pools de memoria compartida significativamente más amplios que las GPUs convencionales.

“Hoy en día, los chips de IA no pueden escalar FLOPs sin sufrir throttling térmico. A medida que aumenta la utilización de FLOPs, los chips consumen más energía y reducen la velocidad de reloj…”, explicó Chris Zhu. “Hemos diseñado una nueva arquitectura para hacer funcionar los bloques matemáticos de nuestro chip con menos de la mitad del voltaje de la mayoría de los chips de IA, lo que permite múltiples veces la densidad de FLOPs de los chips de IA actuales.”

Los investigadores sostienen que los procesadores actuales tienen dificultades para aumentar el rendimiento de coma flotante, porque a mayor utilización la potencia consumida eleva la temperatura y termina reduciendo la velocidad de operación por límites térmicos. Los procesadores con Memoria de Ancho de banda Elevado (HBM) no logran alcanzar velocidades de decodificación a nivel de SRAM, ya que subsistemas de memoria e interconexiones introducen latencias adicionales durante las cargas de inferencia.

Por ello, Etched creó un pool de memoria compartida de baja latencia conectado a través de una interconexión propietaria de ultra baja latencia y alto ancho de banda, para facilitar un acceso a la memoria más rápido. “Nuestra arquitectura HBM/SRAM híbrida resuelve tanto la capacidad de memoria como la latencia entre memorias, logrando alto rendimiento y alta interactividad a la vez.”

La empresa también afirma que muchos modelos de IA pierden tiempo moviendo datos entre chips, memoria y hardware de red antes de que pueda continuar el procesamiento. Según Etched, su arquitectura CSM reduce esas demoras al minimizar capas de memoria adicionales durante las transferencias de datos.

El aumento de la financiación acelera la producción y la expansión global

La trayectoria de financiación de Etched ha sido rápida: 5.4 millones de dólares en la ronda semilla de 2023, 120 millones en 2024, 500 millones en 2025 y 300 millones en 2026. Estas inversiones elevan el total recaudado a aproximadamente 925.4 millones de dólares, y la ronda de financiación de la novela ha duplicado la valoración de la empresa de 5 mil millones a 10.3 mil millones.

La ronda de la serie C incluyó a Sequoia Capital, Andreessen Horowitz, Jane Street, Diffusion, Argo y SK Hynix, señalando la confianza continuada de los inversores pese a la creciente competencia en los mercados de hardware de IA. Robert Wachen declaró: “Esta ronda acelera la producción de nuestros clústeres de inferencia”, al tiempo que confirmó una instalación de 8,000 metros cuadrados y 10 MW situada cerca de Milpitas. La empresa emplea a más de 400 personas, con una demanda de clientes que supera 1.0 mil millones de dólares, y ha establecido operaciones de fabricación en Taiwán.

Los sistemas de Etched soportarán modelos de lenguaje grandes convencionales, arquitecturas mixtas de expertos y alternativas como Mamba. Para más contexto, consulta la cobertura de Blocksandfiles.

from Latest from TechRadar https://ift.tt/zOFuo3w
via IFTTT IA