ProgramAsWeights convierte descripciones en inglés en clasificadores que corren en tu CPU
Una librería de Python compila una función descrita en inglés a un adaptador LoRA sobre un modelo de 0,6B y la ejecuta en local con llama.cpp. La compilación, por defecto, sale a sus servidores.
Un equipo de la Universidad de Waterloo ha publicado ProgramAsWeights (PAW), una librería de Python que convierte una descripción en inglés en un pequeño clasificador de texto y lo ejecuta en la máquina de quien lo llama. El código, los pesos y el artículo están abiertos.
La idea es no entrenar nada. Se describe la función, se compila y se invoca:
import programasweights as paw
fn = paw.compile_and_load("Classify urgent emails")
fn("Need this today") # devuelve "urgent"
Cómo funciona
Por debajo hay un compilador aprendido que genera un adaptador LoRA específico para la tarea sobre un modelo pequeño que se comparte entre programas. El intérprete por defecto es Qwen3 0.6B: el modelo base son unos 594 MB de descarga y cada programa compilado pesa alrededor de 22 MB. Las llamadas posteriores a la compilación corren en local con llama.cpp, así que los correos o los documentos que se clasifican no salen de la máquina si se tira de inferencia local.
Lo que no es local
La compilación sí viaja fuera por defecto. La descripción de la función se manda al compilador alojado del proyecto y solo después vuelve el adaptador para ejecutarse aquí. Quien no quiera enviar ni eso puede montarse el proceso por su cuenta: los pesos del compilador están publicados, el paw-4b-qwen3-0.6b sobre Qwen3 0.6B, para correrlo tal cual o construir encima. Hay además un playground web para probarlo sin instalar nada.
El repositorio de Python trae la instalación documentada, y los pesos están en Hugging Face. Ahí está lo interesante del asunto: no es un modelo que hace de todo, sino la compilación de una tarea concreta a un artefacto minúsculo. Eso lo hace viable en un portátil o en un servidor modesto, sin GPU y sin mandar datos a una API de terceros, que es justo lo que busca la gente que mira proyectos así. Queda por ver cuánto aguanta el enfoque cuando la tarea se complica: si un adaptador de 22 MB sirve solo para clasificar correos o llega más lejos.
