Los agentes de IA se postulan como la nueva plataforma de desarrollo interna
Whitney Lee y Viktor Farcic presentan en KubeCon el agente como relevo de las plataformas internas tipo Backstage, con búsqueda semántica, guardarraíles y trazas como única prueba.
Los agentes de IA son la nueva plataforma de desarrollo interna. Whitney Lee y Viktor Farcic defendieron esa idea en KubeCon & CloudNativeCon Europe: donde antes se desplegaba un portal de autoservicio tipo Backstage, ahora se pone un agente que recibe la petición del desarrollador, la cruza con el contexto del sistema y decide qué herramienta ejecutar. Ambos lo desarrollaron en la charla y lo ampliaron después en una entrevista.
El contexto es la parte difícil
El contexto no sale de la documentación, sino de donde vive la información real: repositorios Git con manifiestos y código, discusiones de pull requests, hilos de Slack donde alguien explicó por qué no se usa cierta base de datos, tickets de Jira, wikis y transcripciones de reuniones de diseño. Sobre eso se monta búsqueda semántica, de forma que ni el desarrollador ni su agente de programación necesitan saber dónde está cada cosa: la similitud semántica les ahorra acertar con las palabras exactas.
Farcic es directo con lo que suele fallar. La calidad de la búsqueda no la define el modelo de embeddings ni la base de datos vectorial, que son mercancía, sino qué se indexa y cómo se trocea. Incrustar un documento de cuarenta páginas como un único vector da un bloque que habla vagamente de todo y con precisión de nada. Hay que partirlo en piezas que se sostengan solas —una sección, una función, la definición de un recurso— y arrastrar metadatos: repositorio, equipo y fecha. La documentación es una fuente más, y normalmente la peor, porque envejece.
La frescura es otro problema. Un índice no es una migración que se ejecuta una vez: si la información tiene seis meses, el agente dará respuestas de hace seis meses con total seguridad. La ingesta tiene que ser continua y los borrados propagarse. Y hay cosas que no deberían entrar: el estado del clúster cambia cada segundo y no es conocimiento, es estado; para eso se le da al agente una herramienta que lo consulte en vivo.
Los guardarraíles son la otra pata: bloquear o permitir acciones, y separar las que se ejecutan solas de las que exigen aprobación. Con un LLM, la entrada es lo que le dé el usuario y la salida lo que al modelo le parezca, así que no se puede acotar de antemano.
Trazas o no hay prueba
Como el agente no es determinista, repetir una pregunta da dos caminos distintos. La traza deja de ser una comodidad de depuración y pasa a ser la única evidencia de que las cosas ocurrieron como ocurrieron. Farcic recomienda capturar logs, métricas y trazas con OpenTelemetry, que ya tiene convenciones semánticas para GenAI: spans con nombre del modelo, consumo de tokens, invocaciones de herramientas y sus argumentos. Los datos van a donde haga falta —Jaeger o Grafana Tempo para trazas, Prometheus para métricas, Loki para logs— y las plataformas comerciales (Datadog, Honeycomb, Dynatrace, Elastic) los ingieren igual.
Lee añade la lectura agregada: miles de trazas muestran cómo usa la gente la plataforma. La observabilidad del agente se convierte en descubrimiento de plataforma y cierra un bucle de mejora con el equipo que la mantiene. Farcic mira tres cosas en cada traza: qué herramientas eligió el agente y en qué orden —una herramienta que nunca se llama o que siempre se llama mal es un problema de su descripción, no del modelo—, dónde se fue el tiempo y el dinero, y el rastro de auditoría. Una búsqueda semántica mal acotada puede arrastrar 50.000 tokens al contexto y eso solo se ve ahí. Si el agente tocó producción, alguien preguntará quién lo aprobó, y que lo hizo la IA no vale como respuesta.
De paso, las trazas reales son el mejor conjunto de evaluación disponible: las preguntas que hacen los desarrolladores y los caminos que toma el agente baten cualquier caso que se diseñe en una reunión.
