NVIDIA da los primeros números de DSX: 24% más tokens con el mismo vatio
Lambda valida DSX MaxLPS en 19 nodos HGX B200 con un 24% más de throughput de tokens, y una fábrica en Santa Clara ya responde sola a las señales de la red eléctrica.
En el AI Infra Summit, NVIDIA ha puesto números a algo que venía repitiendo de forma genérica: gestionar mejor la energía de un centro de datos de IA permite sacar más cómputo del mismo presupuesto eléctrico. El proveedor cloud Lambda ha validado DSX MaxLPS en un clúster de cinco racks y 19 nodos con servidores HGX B200, y ha obtenido un 24% más de throughput de tokens —de unos 4 millones por segundo a 5 millones— gastando lo mismo.
Es la primera validación de MaxLPS en un entorno de despliegue, y el dato lo firma Lambda, no un tercero independiente.
Mismo vatio, más trabajo
El software vigila el consumo a nivel de GPU y de rack y reasigna el margen sobrante entre nodos según el tipo de carga. Entrenamiento e inferencia no tiran de la misma forma, y en una instalación donde conviven ambos, el reparto estático deja capacidad sin usar. Lambda metió 19 nodos en el presupuesto energético que antes sostenían 16 a plena potencia. El rendimiento por vatio subió un 23%.
La cifra que NVIDIA proyecta para lo que viene es mayor: hasta un 40% más de capacidad de GPU en fábricas con Vera Rubin NVL72 dentro del mismo megavatio. La compañía lo condiciona a entornos de despliegue adecuados, y conviene recordar que ahí ya no hay medición, sino una estimación suya.
"Con nuestra prueba de concepto creemos que hemos superado la limitación de los presupuestos de potencia fijos", dice Dave Ward, presidente de servicios cloud de Lambda. La idea de fondo la resumió Jensen Huang: una fábrica de un gigavatio nunca se va a convertir en una de dos.
La fábrica que acepta bajar la potencia
El otro frente es la red. En Santa Clara, Silicon Valley Power ha enviado más de 200 señales de demanda a una fábrica de IA —la Eos de NVIDIA— y en todas ha respondido. La reducción baja de cuatro megavatios a tres en menos de un minuto, sin operador, con la inferencia prioritaria intacta y los trabajos de baja prioridad aplazados o reprogramados. Lo pilota Conductor, de Emerald AI, dentro del programa Flexible Load Interconnect, el primer programa comercial de una compañía eléctrica que trata una fábrica de IA como un recurso regulable. No es todavía DSX Flex: es la prueba previa de que el concepto aguanta a escala comercial.
El primer despliegue comercial dedicado de DSX Flex será en Manassas (Virginia), una instalación de 96 megavatios con Vera Rubin en el AI Factory Research Center de NVIDIA, después de cinco demostraciones en dos continentes.
El punto no es conseguir más megavatios, sino sacarle más partido a los que ya hay. Queda por ver si ese 40% proyectado se sostiene fuera del laboratorio y cuánto depende de que la eléctrica de turno esté dispuesta a mandar la señal.
