BookinglyTech News
Inteligencia artificial

OpenAI tiene la técnica para replicar Jev de TypeSafe, según un análisis

Vercel afirma que el modelo de TypeSafe se adoptó más rápido que ningún otro en su AI Gateway. Un análisis sostiene que OpenAI puede replicarlo e integrarlo en sus propios agentes.

2 min de lecturaHacker News (top)0 vistas

TypeSafe ha presentado Jev, un modelo de lenguaje que ataca la clasificación por una vía distinta, y Vercel afirma que su adopción ha sido más rápida que la de cualquier otro modelo en la historia de su AI Gateway. El dato es suyo, no de un tercero. La pregunta que se hace más de uno es qué hará OpenAI al respecto, y la respuesta que circula es incómoda para TypeSafe: replicar el producto le costaría poco y, además, podría meter esa capacidad dentro de sus propios modelos y agentes.

El truco no es tan exótico

La tesis parte de que Jev, por debajo, es un modelo de lenguaje bastante convencional. Dado un estado y un conjunto de preguntas, genera la distribución de probabilidad sobre el siguiente token, y esos logprobs se reordenan hasta dar el formato que el producto necesita. Para una pregunta booleana basta con mirar dos tokens, verdadero y falso, ignorar el resto y normalizar su probabilidad. Para una pregunta de elección se le pasa una lista de opciones —A=feliz, B=triste, C=enfadado, D=asustado— y se comparan sus probabilidades relativas para quedarse con la ganadora. La técnica ya se exploraba hace tiempo sin necesidad de fine-tuning, y el autor del análisis recuerda que escribió sobre ella en 2025. Los primeros clones de Jev, según Latent Space, también son modelos de lenguaje por dentro.

OpenAI lleva años clasificando sin decirlo

La ventaja de OpenAI, según este análisis, es que usa sus modelos como clasificadores implícitos desde la llegada del tool calling. En una conversación en formato ChatML, el primer token que predice el modelo justo después de <|im_start|>assistant es un salto de línea o la secuencia to=function.. Es decir, un clasificador que decide si hay que invocar una herramienta. Los siguientes tokens eligen cuál, luego vienen los nombres y los valores de los argumentos, y el token de cierre <|im_end|> hace de clasificador final: la respuesta está completa o no lo está.

El autor lo cuenta desde dentro. Cuando trabajaba en Copilot, en GitHub, con una API interna de GPT-4 todavía muy cruda, el modelo no sabía callarse: encadenaba despedidas —que tengas un buen día, una buena semana, una buena vida— hasta agotar el límite de tokens. Faltaban unas cabeceras que permitieran usar los delimitadores <|im_start|> y <|im_end|>, así que el modelo no podía predecir el final de su propia respuesta.

Lo único que separa a esos microclasificadores de lo que hace Jev es la especialización: valen para cuatro tareas muy concretas y para nada más. Si OpenAI entrena clasificación general, el resto es empaquetado.

El foso de TypeSafe estaría, si existe, en sus datos y en su proceso de entrenamiento, que es lo que el análisis señala como su principal defensa. Ahí está la incógnita: si el modelo se sostiene sobre ese material propietario, replicarlo no sale tan barato como parece; si no, la ventana se cierra rápido. Nadie ha enseñado una demo que demuestre que OpenAI esté trabajando en ello.