Los vectores de dirección recuperan la geometría de valores humanos en los LLM

Extraer direcciones lineales del espacio de activaciones de un modelo de lenguaje no sirve solo para encender o apagar un comportamiento concreto. Según el trabajo, esas direcciones reproducen la geometría completa del espacio de valores humanos que describe la teoría de Schwartz, con una correlación de Spearman de hasta 0,51 frente al modelo circumplejo de esa teoría.

Esa cifra es lo que separa este resultado de lo que había. Hasta ahora las restricciones de seguridad se imponían por dos vías: pipelines pesados de ajuste fino como RLHF o DPO, o métodos de guiado centrados en el comportamiento como COLD-Steer y BiPO, que optimizan una tarea concreta sin garantizar que la estructura semántica que hay debajo se mantenga. Estos últimos reducen el daño que persiguen, pero no dicen nada sobre la topología de valores subyacente.

Solo los vectores sacados de la distribución aguantan el examen

El trabajo compara ambos enfoques con la misma vara. Los autores proyectan las distribuciones de activación sobre direcciones lineales, construyen la matriz de similitud por pares y la contrastan con el circumplejo teórico. Los métodos guiados por distribución son los únicos que muestran una alineación geométrica fuerte. Los centrados en comportamiento no alcanzan correlación estadísticamente significativa, y eso que obtienen resultados comparables en el benchmark (tabla 4 del trabajo). Se puede dar el número sin haber interiorizado las relaciones entre valores que hay detrás.

La escala juega a favor. Los modelos grandes tienen variedades de activación más ricas y capturan mejor el circumplejo. Pero hay un pero: la fidelidad geométrica cae de forma consistente en cuanto el modelo base pasa por ajuste de instrucciones (tabla 1). Los propios autores lo señalan como su limitación principal, porque deja a quien despliega con un problema: necesita rendimiento en tarea y, a la vez, que no se deshaga la geometría.

Qué implica para quien opera modelos

El artículo apunta a incorporar un módulo ligero en tiempo de inferencia que extraiga y aplique estos vectores, en lugar de recurrir a un ajuste fino completo. También propone añadir una métrica de geometría —esa correlación de Spearman contra el marco de Schwartz— a los benchmarks de seguridad que ya se ejecutan.

Conviene no leerlo como una garantía. Que la geometría correlacione con la transferencia entre valores no implica que desaparezcan los daños en casos límite, y los autores piden validación posterior antes de dar por buena una implementación. La pregunta que dejan abierta es si se puede diseñar un régimen de ajuste de instrucciones que conserve, o incluso mejore, la alineación latente que encuentran estos vectores.