Los recomendadores adaptativos fallan en las costuras, no en el modelo

El cuello de botella de un sistema de recomendación no está en el modelo, sino en todo lo que lo envuelve. Mallika Rao, con años de trabajo en búsqueda, personalización y generación de candidatos, lo plantea así en una charla técnica: lo difícil no es entrenar el ranking, sino construir el sistema de punta a punta capaz de aprender y adaptarse mientras opera con restricciones reales de latencia, coste, observabilidad, experimentación, confianza del cliente y cumplimiento normativo.

Rao arranca recordando de dónde venimos. Durante años estos sistemas fueron heurísticas escritas a mano: reglas de negocio, lógica afinada y funciones de ranking. Funcionaban, pero se atascaban con señales dispersas, con intenciones de usuario que cambian, con el volumen y con la velocidad de adaptación. La evolución hacia arquitecturas nativas de IA trajo embeddings, señales de contexto y etapas encadenadas de recuperación y ordenación. Más capacidad de adaptación, y también una familia nueva de problemas operativos.

Un bucle, no una colección de modelos

El modelo mental que propone es sencillo: llega el usuario, se recuperan candidatos, se ordenan, se infiere, se evalúan los resultados, se genera la lista y ese resultado vuelve al sistema como retroalimentación. Y se repite. El error que más observa es tratar cada pieza como un problema aislado. No lo son: es un sistema distribuido con bucles de realimentación, y la complejidad aparece en las fronteras entre componentes, en la coordinación, más que dentro de cada uno de ellos.

En el recorrido de la charla entran la orquestación, la inferencia en tiempo real, varios casos prácticos y las estrategias de migración. Pero Rao se detiene especialmente en la evaluación, y ahí es tajante: es más difícil que el modelado. Si no se trata como ciudadano de primera clase, queda un hueco crítico.

El interés va más allá de los recomendadores. Las lecciones sobre bucles de retroalimentación, aprendizaje en línea, evaluación y operación bajo incertidumbre son las mismas que ahora reclama cualquier sistema de IA que se adapte en producción. La duda razonable es si los equipos que llegan desde el lado generativo asumen ese trabajo de ingeniería o siguen esperando que el modelo lo resuelva solo.