Qualcomm llevará su arquitectura HBC de memoria a los chips Snapdragon
El anuncio llega en el Snapdragon Summit y traslada a los móviles una tecnología de cómputo cercano a memoria que hasta ahora la compañía reservaba a centros de datos
Qualcomm ha anunciado en su Snapdragon Summit que la arquitectura HBC llegará a los chips Snapdragon. La tecnología se presentó en junio, en el día del inversor de la compañía, con los centros de datos como primer destino; ahora el fabricante dice que la bajará también al silicio que va en los móviles. La promesa es que la inferencia de IA en el dispositivo se atasque menos.
Qué es HBC
HBC son las siglas de High Bandwidth Compute, cómputo de alto ancho de banda. Es una arquitectura de cómputo cercano a memoria: en lugar de dejar el chip de cálculo a un lado y traerle los datos por un bus, lo coloca debajo de la DRAM LPDDR apilada. La integración 3D y los silicios pasantes (TSV) acortan el camino que recorre cada dato. Qualcomm lo plantea como remedio al muro de la memoria en la inferencia de IA.
El problema que ataca no es nuevo para quien haya mirado un acelerador de inferencia de cerca. El cuello de botella ya no está solo en los multiplicador-acumuladores del NPU; está en mover los parámetros del modelo y los datos intermedios entre la memoria y el procesador. Cada viaje cuesta latencia y energía. Si parte del cálculo ocurre junto a la memoria, hay menos viajes.
En un móvil eso se traduce en lo de siempre: modelos más grandes, con más contexto, y menos vatios por token generado. Conviene no confundir ancho de banda con capacidad. HBC no mete más memoria en el teléfono; lo que puede hacer es subir el ancho de banda efectivo, reducir el trasiego de datos y mejorar el rendimiento por vatio. Con esas tres cosas, un SoC móvil aguanta modelos que hoy no entran en su presupuesto térmico.
Lo que aún no hay
Qualcomm no ha dado fechas, ni generaciones concretas de Snapdragon, ni cifras de ancho de banda, ni una demo. El anuncio es de hoja de ruta: la tecnología se ha descrito a nivel de arquitectura, pero no hay silicio de móvil que la implemente y se pueda medir. Tampoco ha explicado cómo convive con la memoria que ya integra en sus SoC ni qué generaciones se quedan fuera.
Para quien desarrolla aplicaciones que corren en el dispositivo, la señal es que el presupuesto de memoria sigue pesando más que el pico de TOPS del NPU a la hora de decidir qué modelo cabe. Para quien compra equipo, que la arquitectura anunciada hoy tardará en aparecer en un teléfono que se pueda pedir, y que el calendario lo marcará el primer Snapdragon que la implemente.
