BookinglyTech News
Inteligencia artificial

Nvidia y Palantir afinan un Nemotron de 30B que supera a uno 18 veces mayor

Nvidia y Palantir aplican IA soberana dentro de la cadena de suministro de Nvidia: un modelo afinado de 30.000 millones de parámetros supera al de 550.000 millones.

3 min de lecturaThe New Stack0 vistas

Nvidia y Palantir han dejado de hablar de IA soberana y la han puesto a trabajar. Ambas compañías han afinado el Nemotron 3.5 Lightning, de 30.000 millones de parámetros, con las decisiones que toma a diario el equipo que gestiona la cadena de suministro de Nvidia, y el resultado bate a un modelo unas 18 veces mayor.

Los números son de Nvidia: el Lightning afinado alcanza un 86,7% de precisión en la tarea de asignación de suministro, frente al 55,5% del Nemotron 3 Ultra, de 550.000 millones de parámetros. El dato sale de un blog técnico que firman tres arquitectos de soluciones de la casa, Nell Barber, Rana Haber y Aastha Jhunjhunwala, y que se publica junto al anuncio. La medición es suya, no de un tercero.

La arquitectura del sistema reparte el trabajo. Foundry y la plataforma de IA de Palantir reúnen los datos que hay detrás de cada decisión, mientras que la Ontology de la compañía hace de mapa vivo que conecta componentes, fábricas, capacidad y compromisos de producción. Sobre eso, cuOpt de Nvidia calcula cómo repartir las piezas escasas y Nemotron pondera el contexto para recomendar qué debería hacer el planificador.

Un banco de pruebas de 1,3 millones de piezas

Nvidia tiene motivos para empezar por casa. Cotiza con una capitalización de 5,4 billones de dólares y su cadena mueve millones de piezas y miles de proveedores. Solo un rack Vera Rubin lleva alrededor de 1,3 millones de componentes. Si falta uno, el ensamblaje se detiene y todo lo demás espera en la estantería. De ahí la frase de Jensen Huang: «Las cadenas de suministro son el sistema operativo de la economía física, y las fábricas de IA están entre los sistemas más complejos que se han construido». Alex Karp va en la misma línea y sostiene que la de Nvidia es probablemente la cadena de suministro más valiosa, intrincada y compleja del mundo.

El interés para quien no trabaja en Nvidia está en el modelo de despliegue. Los clientes de Palantir podrán entrenar Nemotron con sus propios datos usando Foundry y AIP, y ejecutar después el sistema en sus instalaciones, en la nube o en un proveedor de colocation, sin que los pesos ni los datos salgan de su entorno. Las dos empresas quieren exportar lo aprendido aquí a manufactura, energía, salud, automoción y aeroespacial.

El gancho de la soberanía

Nemotron es la pieza central del discurso abierto de Nvidia. La familia arrancó en 2023 con unos Nemotron-3 8B descargables desde Hugging Face y el catálogo NGC, aunque con acceso restringido y bajo licencia comunitaria. La serie Nemotron 3 actual llegó en diciembre con variantes Nano, Super y Ultra, y el 3.5 Lightning, el modelo de 30B que se ha afinado aquí, salió en agosto. Nvidia publica pesos y, en muchos casos, datos y recetas de entrenamiento. En septiembre cerró además la compra de Hugging Face por 12.900 millones de dólares, con el compromiso de mantenerla abierta.

Lo que queda por ver es si el 86,7% se sostiene fuera de casa. La cifra corresponde a una tarea de asignación muy acotada y a un entorno que Nvidia conoce mejor que nadie. La prueba real llegará cuando un cliente entrene su propio Nemotron con datos que Nvidia no ha visto.