China junta GPU nacionales y chips neuromórficos en un mismo sistema de inferencia

Un consorcio chino ha presentado el primer sistema de inferencia heterogéneo de su país que reparte el trabajo de un modelo grande entre GPU nacionales y chips neuromórficos. Lo hizo en la Conferencia de Cómputo de China, celebrada en Langfang (Hebei) del 11 al 13 de septiembre. Según los responsables del proyecto, medido con DeepSeek V4, el conjunto más que duplica la relación prestaciones/precio de un clúster equivalente de GPU nacionales y recorta el coste operativo por encima del 40%. Son cifras del consorcio: no hay una medición independiente de por medio.

Attention a la GPU, expertos MoE al chip neuromórfico

Detrás están la nube Mobile Cloud, el instituto Nanhu de CETC, los fabricantes de silicio Lynxi Technologies e Iluvatar CoreX y las universidades de Tsinghua y Pekín. La idea que venden es dividir para repartir: trocear el modelo y colocar cada pieza en el chip que mejor la ejecuta.

En concreto, parten el modelo en dos ejes, prefill/decode (PD) y attention/FFN (AF). El cálculo de attention se queda en la GPU nacional, que es donde tiene su fuerte, la computación de propósito general. Los expertos MoE, que viven en la red FFN y son sensibles a la latencia, se van al chip neuromórfico, que aporta cómputo y memoria en el mismo sitio y una SRAM grande integrada en el propio dado.

Para que las dos mitades no se pisen hacen falta tres piezas propias: un compilador de modelos, un protocolo de interconexión de alta velocidad y un motor de inferencia unificado que descompone las tareas, las coordina y vuelve a juntar los resultados. El consorcio presenta esto como la forma de romper el cuello de botella del despliegue sobre una sola GPU, la ruta que siguen casi todos los clústeres de inferencia actuales.

El destino que le ponen son fábricas de tokens, generación de código asistida, coordinación de varios agentes y fabricación inteligente, escenarios donde la latencia manda. También apuntan a los sectores financiero, de seguridad y de telecomunicaciones, donde además pesa que todo el stack sea nacional, desde el silicio hasta el motor de inferencia.

El anuncio se entiende mejor con el contexto que cualquiera que siga el sector tiene en la cabeza: el acceso a aceleradores extranjeros de primer nivel lleva años restringido en China, y media industria local está buscando cómo sacar más rendimiento del silicio que sí puede comprar o fabricar. Ahí una arquitectura que mezcla dos tipos de chip y promete mejor relación prestaciones/precio es exactamente el tipo de argumento que se quiere oír.

Lo que falta por ver es lo de siempre. No hay cifras absolutas de rendimiento, ni tokens por segundo, ni latencia por petición, solo la comparación relativa con un clúster de GPU nacionales. Tampoco está claro si el sistema se comercializa como producto, quién lo opera y si alguien fuera del consorcio puede reproducir esa prueba con DeepSeek V4. Hasta entonces, el dato que queda es el que da la propia parte interesada.