Visualizador de atención de un LLM: así se explica por qué copian texto
Una herramienta en el navegador permite ver qué tokens anteriores influyen en cada token que genera un LLM. Publicada en Show HN, explica por qué los modelos copian bien el texto.
Un desarrollador ha publicado en Hacker News una herramienta llamada 'LLM Attention Visualization' que muestra, en el navegador, qué tokens anteriores influyen en la generación de cada nuevo token de un modelo de lenguaje. El proyecto, disponible en el repositorio, permite hacer clic o pasar el cursor sobre cualquier token generado y ver con opacidad los tokens pasados que más contribuyeron a su generación.
La visualización no es el mecanismo de atención crudo, sino una simplificación: calcula el peso de atención escalado por la magnitud del vector de valores, agregado sobre todas las cabezas y capas. El autor reconoce que se pierde mucha información, pero aún así se aprecian patrones interesantes. En el ejemplo de un resumen de una mudanza de oficina, al pasar el cursor sobre las direcciones o fechas copiadas textualmente, se ve que el token generado se apoya claramente en el original.
El autor explica que esta visualización le hizo entender por qué los modelos basados en predicción de siguiente token son tan buenos copiando texto: no adivinan la secuencia completa desde un estado interno limitado, sino que tienen acceso directo a todos los tokens anteriores y deciden de cuáles extraer la información. Así se reduce drásticamente la probabilidad de error al copiar.
La parte técnica es igualmente interesante. La aplicación está hecha en React y utiliza Transformers.js para generar el texto, pero requiere extraer valores internos del modelo que el bucle de generación estándar no expone. El autor tuvo que 'vibe-codear' el bucle de generación para registrar los valores y, además, modificar el archivo ONNX del modelo con un script para exponer esas salidas intermedias. Esto implicó subir una versión instrumentada del modelo a su propio repositorio de Hugging Face. El modelo es un Qwen3 de 600 millones de parámetros.
La demo carga varios ejemplos pregenerados para no tener que descargar los cientos de megabytes del modelo, pero también permite generar texto propio en el navegador usando el modelo instrumentado. El código está publicado y hay una explicación detallada en el hilo de discusión.
Queda por ver si la herramienta puede ampliarse a modelos más grandes o utilizarse para diagnosticar comportamientos erráticos en modelos de producción. Por ahora es una forma pedagógica y visual de entender un mecanismo que normalmente es una caja negra.
