AMD lanza la Threadripper Halo Station para inferencia local de IA
Estación de trabajo torre con 96 núcleos y hasta cuatro aceleradores MI350P refrigerados por líquido.
AMD ha presentado la Threadripper Halo Station, una estación de trabajo de torre diseñada específicamente para desarrollo e inferencia local de inteligencia artificial de alto rendimiento. El dispositivo, anunciado durante la keynote de IFA en Berlín, marca la entrada de la compañía en el segmento de sistemas de sobremesa de gama alta para IA, compitiendo directamente con las estaciones DGX de NVIDIA.
Configuración de hardware
El sistema se construye sobre componentes comerciales estándar (COTS) de alta gama. El cerebro del equipo es el procesador AMD Threadripper Pro 9995WX, un chip Zen 5 de 96 núcleos y 192 hilos que ofrece ocho canales de memoria DDR5 y 128 líneas PCIe Gen5. AMD indica que las configuraciones podrán incorporar hasta 2 TB de memoria RAM.
La potencia de cálculo para cargas de trabajo de IA la aportan los aceleradores AMD Instinct MI350P. La configuración base incluye dos de estas tarjetas, proporcionando 288 GB de memoria HBM3E (144 GB por tarjeta) y 4,6 PFLOPS de rendimiento en MXFP8. Existe la posibilidad de instalar hasta cuatro aceleradores, lo que elevaría la memoria total a 576 GB, aunque AMD no ha aclarado si venderá sistemas preconfigurados con esa especificación o si es solo una opción de ampliación por parte del usuario.
Un detalle técnico relevante es la refrigeración. A diferencia de los servidores estándar donde las MI350P suelen ser refrigeradas por aire, en esta estación de trabajo las tarjetas utilizan refrigeración por líquido. Asimismo, el procesador también está líquido-refrigerado, aunque el sistema de demostración empleó radiadores de circuito cerrado individuales para cada componente, en lugar de un bucle compartido. Esta decisión busca maximizar el disipación de calor y controlar los 450+ vatios de consumo de las tarjetas GPU en un chasis de sobremesa, minimizando al mismo tiempo el ruido.
En cuanto a conectividad, el sistema de demostración incluía una placa base ASUS Pro WS WRX90E-SAGE SE y una tarjeta de red SFP no identificada. AMD parece haber corregido así una de las principales críticas al anterior Ryzen AI Halo, que solo ofrecía Ethernet de 10 Gbps y carecía de opciones de red de alta velocidad.
Software y competencia
AMD no ha detallado el software específico que preinstalará, aunque es probable que use la misma pila basada en Linux que su modelo anterior. Durante la presentación, Microsoft destacó su kit de herramientas Project Zenith, que incluirá Visual Studio Code y otras herramientas curadas para desarrolladores, con disponibilidad prevista para los sistemas Ryzen AI Halo.
La Threadripper Halo Station se posiciona frente a las estaciones DGX de NVIDIA, que utilizan un único acelerador B300 acoplado a un módulo CPU Grace. Por el contrario, AMD apuesta por una arquitectura distribuida con múltiples tarjetas GPU en el bus PCIe. Esta nueva opción queda disponible para ingenieros y equipos de desarrollo que requieren inferencia local de grandes modelos sin depender de la nube.
