Mohdel 1.0, gateway LLM para Node con coste real por llamada
La librería y CLI, con licencia MIT, llama directamente a 13 proveedores de LLM con tus claves desde tu propia máquina y calcula el gasto en dólares por invocación.
Mohdel ha publicado su versión 1.0.0. Es una librería y CLI para Node que hace de gateway hacia proveedores de LLM sin meter un servicio alojado en medio: las peticiones salen de tu máquina y viajan con tus claves. El proyecto tiene licencia MIT y su código está en el repositorio. Se publicó por primera vez hace cinco meses.
Una llamada, trece proveedores
Una sola llamada a answer() cubre 13 proveedores más inferencia local. Cambiar de modelo es cambiar una cadena. Cada resultado incluye el coste real en USD por llamada, calculado con un catálogo de precios que tú controlas. No es una estimación ni un mapa central heredado de un tercero.
Con una variable de entorno se emiten trazas, registros y métricas de OpenTelemetry, así que el gasto y la latencia acaban en el sistema de observabilidad que ya tengas montado.
Los modelos locales son ciudadanos de primera. El proveedor local/ apunta a cualquier servidor compatible con la API de OpenAI: Ollama, vLLM, llama.cpp server o LM Studio.
Aislamiento y claves
De forma opcional, un supervisor pequeño escrito en Rust ejecuta los SDK de los proveedores en subprocesos separados. Si uno se cuelga o tiene fugas, no se lleva por delante tu servicio.
En seguridad, un gateway es una caja llena de claves de API. Mohdel no abre ningún puerto de red: usa sockets Unix con permisos 0600. Tampoco guarda credenciales, porque la clave viaja en cada invocación. No hay componentes que ejecuten código y el subproceso de trabajo arranca con un entorno vacío, así que no puede leer el resto de tus variables con secretos.
La instalación es npm install -g mohdel; después, mo guía para elegir proveedor y clave. El autor pide que se le cuente dónde falla en otras configuraciones.
Para quien ya integra varios proveedores de IA, la alternativa habitual es un enrutador alojado que se mete en el camino de la petición o un servicio en Python que hay que desplegar y monitorizar. Mohdel se queda en una librería de Node y evita el salto de red. La duda es si el catálogo de precios se mantiene al día cuando los proveedores cambien tarifas, y si el aislamiento opcional con Rust compensa el coste de arrancar subprocesos.
