Un sistema de memoria para agentes que refleja el embedding dimensión a dimensión

Un desarrollador ha publicado un mecanismo de memoria asociativa para agentes conversacionales que no se limita a recuperar los vectores más cercanos al contexto. La idea: en lugar de traer solo recuerdos parecidos a lo que está pasando, invierte el signo de algunas dimensiones del embedding para recuperar memorias que contrastan con el patrón actual. El detalle técnico está en un writeup en el foro de Hugging Face, y el sistema se puede probar sin registro en true-recall.com.

Cómo decide qué recordar

El sistema usa el modelo de embeddings de 8B de Qwen con entrenamiento Matryoshka, truncado a 512 dimensiones. A partir de ahí, lo interesante pasa dimensión a dimensión: mide la varianza de cada una sobre los episodios recientes y la pasa por una sigmoide. El resultado es casi binario, cada dimensión se recupera de forma normal o se refleja alrededor de cero.

Las dimensiones con poca varianza, es decir, las que solo han visto experiencia reciente de un signo, son las que se reflejan. Eso empuja la recuperación hacia recuerdos que se salen del patrón actual. Las de varianza alta se quedan como están y son las que mantienen el resultado anclado a la escena presente. El autor lo llama memoria homeostática: el recuerdo encaja con el contexto pero mete algo que no estaba.

En la práctica es un truco barato si se compara con reentrenar el modelo o añadir otro al pipeline, y toca un problema real: la memoria a largo plazo sigue siendo el cuello de botella de casi cualquier agente que aguante más de diez turnos sin repetirse.

Lo que falta por ver

Lo publicado es una descripción, no una demostración. No hay nombre de la aplicación, ni repositorio, ni licencia, ni métricas de recuperación comparadas con una búsqueda por similitud al uso. El autor firma con un alias y no enseña ningún resultado medido, solo la explicación del mecanismo. Tampoco queda claro qué pasa con el coste de calcular la varianza por dimensión en cada turno, ni si el truncado a 512 dimensiones se nota en la calidad de la recuperación frente al embedding completo.

Quien quiera comprobar si el reflejo por dimensión mejora de verdad la coherencia de un agente tendrá que montarlo por su cuenta a partir del texto. La web está abierta y no pide correo, así que al menos se puede ver el comportamiento del sistema sin comprometerse a nada.