Red Hat AI 3.5 incorpora control y gobernanza para agentes en producción

Red Hat ha publicado Red Hat AI 3.5, una actualización de su plataforma para ejecutar cargas de IA en OpenShift. El foco está en operar agentes de IA en producción con el mismo nivel de control que el resto de la infraestructura crítica. La compañía plantea cuatro preguntas que cualquier plataforma debe responder antes de escalar: si el modelo es fiable, si se puede controlar, si se puede construir sobre él y si se puede medir. Esta release aporta herramientas para cada una.

Para la parte de fiabilidad, el AI Model Catalog llega a disponibilidad general. Un equipo de Red Hat valida modelos y los publica con su análisis de seguridad hecho: se incluyen resultados del benchmark Garak sobre seguridad, exposición de datos personales y toxicidad. También se validan para fiabilidad de llamadas a herramientas, de modo que quien construya pipelines agénticos parte de una base probada. Para modelos propios o ajustados, EvalHub, también GA, permite ejecutar pruebas contra riesgos como inyección de prompts o jailbreaks, y generar documentación que los reguladores puedan aceptar.

Para el control, la release amplía el soporte multiinquilino: Red Hat AI ahora soporta oficialmente planos de control alojados sobre OpenShift Virtualization, de forma que cada inquilino tenga su plano de control dedicado sobre infraestructura virtualizada compartida. Dentro de cada espacio de trabajo, el control de admisión de recursos, las políticas de equidad y la protección contra inanición evitan que un trabajo por lotes de fondo haga hambrear a un agente en tiempo real. El control de prioridades sobre GPU compartida, una de las novedades más relevantes, se detalla en un análisis para desarrolladores. Los despliegues controlados (GA) permiten rutas canary: una fracción del tráfico real se va a la nueva versión, se comparan resultados, las peticiones en vuelo terminan antes de migrar y la reversión es inmediata. Para evitar recortes de contexto en conversaciones largas, vLLM incluye offloading de la caché KV a CPU y a almacenamiento NVMe, eliminando el límite de memoria del hardware.

También se puede construir sobre la plataforma sin mover los datos: Red Hat AI permite desplegar los entornos de IA donde residen los datos, ya sea on-premise o en nubes públicas como AWS, Azure o GCP. AutoRAG, en vista técnica, automatiza la evaluación y el ajuste de hiperparámetros de pipelines de generación aumentada por recuperación. Para entornos multicloud, la inferencia distribuida llega a CoreWeave CKS y Azure AKS, con Amazon EKS en tecnología previa, ofreciendo el mismo stack de servicio sin rehacer la arquitectura.

Red Hat no da cifras de rendimiento ni demos de cliente en el anuncio. La propuesta es que las herramientas de gobernanza y observabilidad son lo que faltaba en su plataforma para que los agentes pasen de experimento a servicio compartido. Queda por ver cómo se comporta ese multiinquilino en clústeres reales y si la priorización de peticiones cumple cuando el clúster está bajo presión.