Grab pasa de dos semanas a una hora el despliegue de agentes de IA con LLM-Kit

Grab ha estandarizado más de 500 servicios internos de agentes sobre LLM-Kit, un framework propio que entrega a cada servicio nuevo un bucle de agente básico con evaluación, trazas, gestión de secretos y conexión a servidores de herramientas ya cableados. Poner en producción un agente que antes costaba dos semanas o más ahora se resuelve en torno a una hora.

El ahorro no está donde suele mirar todo el mundo. Como resume el propio equipo en un post de ingeniería: "El bucle de razonamiento nos llevó una tarde entera. El envoltorio de producción, dos semanas." Lo que LLM-Kit elimina es la decisión repetida en cada servicio. No es una abstracción nueva de agentes ni un lenguaje específico de dominio: es andamiaje alrededor de infraestructura que Grab ya tenía, montado una sola vez cuando la compañía dejó de resolver esos problemas servicio a servicio y empezó a resolverlos de forma central.

Qué trae el andamiaje

Un ingeniero rellena un formulario y recibe un repositorio de GitLab con un servicio FastAPI funcionando, módulos de agente de LangGraph, trazas de OpenTelemetry, secretos en Vault y descubrimiento de servicios ya conectados, además de un endpoint de evaluación desde el primer commit que puntúa con ROUGE, BLEU y un segundo modelo actuando como juez.

Las herramientas no vienen precableadas: los agentes las piden en tiempo de ejecución a más de 50 servidores registrados que hablan Model Context Protocol, de modo que una capacidad registrada una vez llega a todos los agentes. Con los proveedores de modelo pasa lo mismo. Cada llamada pasa por GrabGPT Gateway, compatible con la API de OpenAI, que tiene delante a cinco proveedores e inyecta las credenciales, así que el código de la aplicación nunca fija un proveedor en duro.

La elección de framework frente a plataforma fue deliberada. "Una plataforma nos habría encerrado en supuestos rígidos que pronto quedarían obsoletos. Un framework nos permitía encontrarnos con los desarrolladores donde ya estaban", explica el post. El analista Kai Waehner sostenía en abril que el lock-in de la IA agéntica es más duradero que el de las API porque se acumula en varias capas a la vez: el modelo, el framework, el runtime y los patrones que los equipos construyen encima. No escribía sobre Grab, pero el marco encaja: el gateway cubre la capa de modelo; el framework, el runtime y los patrones son más difíciles de meter detrás de una única interfaz.

Grab tiene además Palana, presentada en junio por su equipo de ciberseguridad, para experimentar con agentes autónomos sin renunciar al control de identidad, secretos, acceso de red y visibilidad operativa. Su grupo de analítica ha construido por su cuenta un sistema multiagente de soporte a ingeniería.

Cuando el problema pasa a ser la plataforma

LLM-Kit resolvió construir y desplegar un agente. Con 500 encima, los problemas se movieron del framework a la plataforma: el gateway gobierna qué modelo llama todo el mundo, el marco remoto de MCP permite reutilizar herramientas entre equipos y una plataforma de evaluación dictamina si un cambio de prompt mejoró al agente o solo lo dejó distinto. Buena parte de esa capa se puede comprar ya hecha: Amazon Bedrock AgentCore y el Agent Runtime de Google alojan agentes escritos con un framework existente y aportan identidad, gateway y observabilidad.

Para quien esté sopesando lo mismo, el hallazgo útil es dónde cae el coste. Si el trabajo diferencial se resuelve en una tarde y la fontanería compartida se come dos semanas, la pregunta no es qué librería de agentes elegir, sino quién es el dueño de los secretos, las trazas y la evaluación.