Red Hat y NVIDIA definen una arquitectura de defensa en profundidad para agentes de IA
Red Hat y NVIDIA han presentado un conjunto de controles que se extienden más allá del modelo para asegurar agentes que actúan sobre sistemas corporativos.
Seguridad de agentes de IA
El CTO de Red Hat, que lidera el área Global Engineering Enterprise AI, explica que los agentes de IA ya no son solo generadores de texto: pueden llamar APIs, usar herramientas, acceder a archivos y credenciales, y comunicarse con sistemas de negocio. Esta capacidad amplía su alcance y autoridad, y con ello la carga de seguridad.
El modelo sigue siendo importante, pero no basta. Una vez que un agente puede ejecutar acciones en la infraestructura, la protección debe cubrir su identidad, permisos, acceso a herramientas y datos, entorno de ejecución, conexiones de red y la propia infraestructura.
Defensa en profundidad
Red Hat propone capas de seguridad similares a las de sistemas tradicionales:
- Guardrails de modelo y aplicación para detectar o limitar interacciones indeseadas.
- Autenticación y autorización para determinar recursos accesibles.
- Controles de herramientas que limitan las capacidades disponibles.
- Sandboxing para restringir archivos, procesos y entornos de ejecución.
- Aislamiento de cargas de trabajo para mitigar el efecto de procesos comprometidos.
- Políticas de red que limitan dónde y cómo se comunican los agentes.
- Observabilidad y AgentOps que permiten rastrear actividad, interacciones con herramientas y resultados.
Ninguna capa reemplaza a las otras; la idea es un enfoque de defensa en profundidad con puntos de aplicación independientes del agente.
Plataforma Red Hat AI
Red Hat integra estas capas en su ecosistema híbrido:
- Red Hat OpenShift AI soporta desarrollo y operación de cargas de IA.
- OpenShift ofrece aislamiento, política y networking.
- Red Hat Enterprise Linux brinda la base del sistema operativo.
- Red Hat AI Inference suministra una capa de servicio de modelos consistente.
Con NVIDIA, se añade aceleración de cómputo, networking y software de IA, formando la Red Hat AI Factory con NVIDIA.
Política y controles técnicos
El reto es traducir políticas de gobernanza a controles verificables. La iniciativa asago (fundada por Red Hat, NVIDIA y otras) trabaja en convertir requisitos de gobernanza en riesgos identificados, escenarios de prueba y controles técnicos, con una ruta auditada de política a implementación.
Supervisión fuera del entorno del agente
NVIDIA expande el enfoque con la NVIDIA Open Agent Safety Platform. OpenShell introduce sandboxing y mecanismos de política para agentes autónomos, mientras que los NVIDIA BlueField DPUs ofrecen un entorno aislado para networking, seguridad y otros servicios de infraestructura, separado de las aplicaciones que se ejecutan en el host.
Esta separación plantea preguntas sobre qué funciones de supervisión pueden operar fuera del entorno controlado por el agente y cómo traducir las políticas organizativas a controles aplicables en esos puntos de aplicación.
Próximos pasos
El ecosistema sigue evolucionando. Las organizaciones deben evaluar cómo integrar estos controles en sus pipelines de IA, garantizando que las políticas se traduzcan en restricciones técnicas independientes del comportamiento del agente.
Importancia práctica
Para los administradores de sistemas y arquitectos, la propuesta de Red Hat y NVIDIA ofrece un marco concreto para proteger agentes que interactúan con infraestructuras críticas, evitando que una falla de modelo se convierta en una brecha de seguridad.
