TypeSafe lanza Jev, un modelo que decide en vez de escribir texto
La compañía afirma que es hasta 200 veces más rápido y 400 veces más barato que los LLM frontera pequeños, y que los tokens de salida no cuestan nada.
TypeSafe ha presentado Jev, un modelo que no genera texto: clasifica, enruta, puntúa y decide. La compañía afirma que es entre 20 y 200 veces más rápido y entre 40 y 400 veces más barato que los LLM frontera pequeños, y que los tokens de salida no cuestan nada. El anuncio pasó el día entero en lo alto de Hacker News.
Detrás está Diogo Almeida, uno de los coautores de ChatGPT, que lleva dos años en modo stealth construyendo una forma distinta de entrenar modelos a la que llama RLCD, calibrated decisions. La idea es sencilla de enunciar: en lugar de pedirle al modelo que escriba una respuesta, se le pide que elija. Sin cadenas de texto, sin chat.
Qué es y qué no es
No es un LLM general. No programa, no razona en el sentido al que estamos acostumbrados y no produce texto libre. Necesita un formato de salida predefinido. Varias voces en la comunidad lo han señalado: Jev se parece más a un clasificador restringido o a un modelo de decisión tipo difusión que a un modelo de lenguaje. Eso no es un defecto si el caso de uso encaja.
Y encaja en más sitios de los que parece. Buena parte de lo que hacen los LLM en producción no es generar prosa: es enrutar una petición, puntuar una respuesta, decidir si un texto cae en una categoría. Para eso se está pagando el coste de un modelo autorregresivo que escribe token a token, cuando lo único que hacía falta era una etiqueta. Jev apunta directamente a ese hueco.
El equipo lo plantea como complemento al "System Two" lento: se suelta el chat y a cambio se gana muestreo en paralelo, ausencia de alucinación y calibración. Son tres propiedades que en un clasificador importan mucho más que la fluidez.
Los números son suyos
Conviene mirar las cifras con calma. El 20-200x y el 40-400x los dice TypeSafe, no un tercero. El anuncio llegó con documentación y evaluaciones propias, pero todavía no hay una verificación independiente que replique los resultados. La publicación en X acumuló más de 4 millones de visitas y más de mil respuestas, y ahí está también la parte crítica: hay quien avisa de que tratar a Jev como sustituto universal de un LLM es un error.
La documentación incluye un primer sobre el aprendizaje por decisiones calibradas para quien quiera entender de dónde sale el modelo. Clementine, de HuggingFace, ya había señalado esta línea como una de las fronteras de investigación interesantes.
El detalle que más importa a quien despliega: los tokens de salida gratis cambian el cálculo de coste de cualquier pipeline que hoy use un LLM como juez o como router. Si lo único que el modelo tiene que emitir es una decisión, el gasto por inferencia cae en picado.
Queda por ver cuánto aguanta Jev fuera de los casos que la compañía ha elegido para lucirlo, y si un formato de salida cerrado resulta tan flexible como para cubrir los enrutados raros de cada sistema. La promesa es atractiva; la demostración independiente, todavía pendiente.
