OpenAI lanza API de decisiones basada en el clon de Jev para acelerar y abaratar la automatización

¿Qué es el Decisions API?

OpenAI anunció su nuevo Decisions API durante el Dev Day de su CEO Sam Altman. El producto pretende replicar la funcionalidad de Jev, un modelo de TypeSafe que se ha popularizado por ser un clasificador de alto rendimiento basado en un LLM.

Los desarrolladores pueden enviar a Jev un conjunto de opciones; el modelo devuelve probabilidades de cada una, lo que permite tomar decisiones de forma barata y a gran velocidad. El Decisions API de OpenAI, según Altman, hace lo mismo pero con la ventaja de integrarse con el modelo Luna de la compañía y de mantener soporte amplio de lenguaje, entendimiento de imágenes y salvaguardias de seguridad.

¿Cuánto cuesta y qué tan rápido es?

Se sabe que Jev permite ejecutar decisiones por apenas $2,94 en el ejemplo de un demo de QueryStory, frente a $372 cuando se usa un LLM de frontera. El ahorro es notable cuando se trata de supervisar cada acción de un agente.

Aunque OpenAI lanzó el API en vista previa limitada, no se han visto implementaciones públicas hasta el momento. Se espera que la empresa ofrezca una experiencia similar a la de Jev, con la diferencia de que la herramienta ya viene con la infraestructura de OpenAI.

Implicaciones para la seguridad de agentes

El uso de un modelo de decisión barato abre la posibilidad de monitorear de forma continua las acciones de agentes autónomos. El demo de QueryStory bloquea automáticamente las acciones que el modelo considera inseguras y marca las demás para revisión, lo que, en teoría, podría haber evitado incidentes como el de Hugging Face.

Este enfoque se alinea con la estrategia de OpenAI de emplear modelos auxiliares para vigilar el comportamiento de sus agentes, reduciendo el coste de computación en comparación con la supervisión directa de un LLM.

Competencia y futuro del mercado

Jev ya no es el único modelo de decisión en el mercado. Varias startups están lanzando APIs similares, y OpenAI no será la última gran firma en hacerlo. La pregunta clave será cómo se calibran los resultados de cada modelo frente a la realidad, algo que TypeSafe resalta como ventaja de sus datos sintéticos.

La tendencia apunta a que los modelos de decisión, cuando son rápidos y económicos, se conviertan en la columna vertebral de la automatización de software y la supervisión de IA.

Próximos pasos

Para los administradores y arquitectos, la cuestión es si el Decisions API ofrecerá una integración sencilla con su stack actual, compatibilidad con LLMs de terceros y si mantendrá los niveles de seguridad y rendimiento anunciados.

El acceso a la vista previa seguirá disponible a través de la página de OpenAI y se espera que, en los próximos meses, el API sea lanzado como producto estándar.

Enlaces relevantes

OpenAI Dev Day recap Introducción a Jev de TypeSafe Demo de Jev Sentinel