Salesforce y Nvidia lanzan Koa, un modelo de razonamiento para tareas de empresa

Salesforce ha presentado Koa, su primer modelo de razonamiento, desarrollado junto a Nvidia a partir del modelo open-weight Nemotron. La compañía lo coloca dentro de Agentforce como alternativa a los modelos frontera de Anthropic y OpenAI para el trabajo que sus clientes quieren delegar a un agente. El anuncio llegó esta semana en Dreamforce.

La idea no es competir resolviendo problemas matemáticos imposibles, sino ventas, marketing y atención al cliente. Salesforce ha hecho post-entrenamiento sobre Nemotron para eso: convertir un modelo de propósito general en uno especializado. Y no ha usado datos reales de sus clientes. En su lugar, generó datos sintéticos que imitan sus patrones.

"Simulamos un entorno de atención al cliente con un profesional de atención al cliente como persona, incluidos clientes enfadados que llaman al centro, hasta un profesional de ventas que intenta cerrar un trato", explica Jayesh Govindarajan, vicepresidente ejecutivo de IA de Salesforce.

Antes de Koa, cuando un agente necesitaba razonar sobre una tarea larga o de varios pasos, esos prompts se enrutaban a un modelo frontera como Claude o ChatGPT a través del gateway de IA de Agentforce, el sistema que decide qué modelo atiende cada petición. Con Koa, ese tráfico puede quedarse dentro. La compañía sostiene que el modelo quema menos tokens para el mismo trabajo y que, al no haber ingerido datos de clientes, no puede filtrarlos a terceros.

Por qué no lo habían hecho antes

Govindarajan lo atribuye a la falta de una base pre-entrenada adecuada. "Hemos construido muchos modelos de lenguaje pequeños y específicos de tareas, que forman parte del portafolio de Agentforce. Pero el razonamiento siempre ha sido algo para lo que hemos dependido de los proveedores de modelos frontera. Hasta ahora", dice. Según él, Nemotron fue la primera opción estadounidense con procedencia de datos clara y estado del arte al mismo tiempo, y añade que de Qwen, el modelo open-weight de Alibaba, no se sabe con qué se entrenó.

Nvidia pone el acento en el coste por petición. "Tenemos una arquitectura única para que la inferencia sea eficiente en tokens", señala Kari Ann Briski, vicepresidenta de software de IA generativa para empresa de Nvidia. "Es la combinación de las tres cosas que necesitas: IA soberana, tiempo hasta el primer token y razonamiento eficiente, por el tema de la economía de tokens".

Salesforce tampoco corta con Anthropic. La misma semana anunció ClaudeForce, un acuerdo para que las empresas usen Claude como interfaz de IA mientras sus datos siguen alojados en los sistemas de Salesforce y protegidos por su infraestructura.

El movimiento apunta a una brecha que lleva tiempo abriéndose: el modelo que gana una benchmark general no tiene por qué ser el que conviene para clasificar un ticket o cerrar una oportunidad. Si los números de tokens que da Salesforce se sostienen en producción, la pregunta para quien opera Agentforce deja de ser qué modelo es más listo y pasa a ser cuánto cuesta cada tarea y quién ve los datos por el camino.