Benchmark de Qwen 3.8 27B revela cuellos de botella en GPU de gama alta y presión en el mercado de hardware

Jeff Kampman, el especialista en inferencia de Tom's Hardware, ha publicado una serie de benchmarks del modelo Qwen 3.8 27B en varios dispositivos que un entusiasta podría adquirir hoy. La prueba incluyó una RTX 5090, un Mac Mini con Apple Silicon, un nodo DGX Spark y una estación Strix Halo. Los resultados confirman que la capacidad de VRAM por sí sola no basta: la arquitectura del software y el motor de inferencia limitan gravemente los tokens‑por‑segundo, incluso en la tarjeta gráfica más potente disponible.

En la RTX 5090, Qwen 3.8 alcanzó alrededor de 120 tps (tokens por segundo) en modo de precisión FP16, pero al bajar a FP8, que es el rango recomendado para modelos de gran escala, la cifra cayó a 85 tps debido a cuellos de botella en el driver y el backend de CUDA. El Mac Mini, pese a su bajo consumo, logró 45 tps en FP8, mientras que el DGX Spark alcanzó 150 tps pero a un coste energético y de refrigeración que lo hace inviable para un escritorio doméstico. La estación Strix Halo, diseñada para gaming, mostró un rendimiento intermedio de 70 tps, subrayando que la optimización del stack de inferencia es tan crucial como la potencia de la GPU.

El informe también menciona la presión en el mercado de hardware de consumo. Tras la IFA 2026, los precios de laptops y desktops de gama media han subido cerca de un 30 % frente al año anterior, impulsados por la demanda de recursos para entrenamiento y despliegue de IA. El precio “óptimo” de $1 000 para equipos de escritorio se ha desplazado a más de $1 500, y los componentes críticos como la memoria RAM y el almacenamiento NVMe también experimentan escasez.

En el plano de la cadena de suministro, Ajinomoto, conocida por sus productos alimenticios, está involucrada en la fabricación de sustratos ABF, esenciales para los aceleradores de IA de Nvidia, Intel y AMD. La demanda excesiva ha elevado el coste de estos sustratos en aproximadamente un 30 %, lo que repercute directamente en el precio final de los chips y, por ende, en los sistemas que los integran.

Por último, la semana estuvo marcada por el anuncio de GPT‑6 Astra de OpenAI, descrito como un modelo de frontera con capacidades cercanas a la AGI. Aunque el modelo generó controversia por supuestos problemas de alineación y una polémica sobre la supuesta solución al problema de Navier‑Stokes, su aparición refuerza la tendencia de que los modelos cada vez más potentes demandan hardware cada vez más especializado.

En resumen, los benchmarks de Qwen 3.8 demuestran que, pese a la disponibilidad de GPUs de alta gama, la verdadera limitación sigue estando en el software de inferencia y en la disponibilidad de componentes críticos. Los profesionales de TI deben considerar no solo la potencia bruta de la GPU, sino también la compatibilidad del stack y la viabilidad económica del hardware antes de invertir en infraestructuras de IA.