NVIDIA presenta OpenShell, un runtime open source para gestionar la seguridad de agentes IA
La compañía lanza una herramienta para aplicar controles ejecutables fuera del alcance del modelo, junto a alianzas para estandarizar la defensa en la pila de agentes.
NVIDIA ha publicado OpenShell, un entorno de ejecución abierto y seguro diseñado específicamente para agentes de inteligencia artificial. El objetivo no es mejorar la capacidad de razonamiento de los modelos, sino imponer límites estrictos sobre lo que estos pueden hacer en la infraestructura, actuando como una capa de control independiente a la lógica del propio agente.
Controles ejecutables y trazabilidad
El argumento central de NVIDIA es que la seguridad en IA es un problema de ingeniería que requiere requisitos definidos, controles aplicables y responsables nombrados. En un stack de agentes, los modelos proporcionan capacidades, los harnesses organizan el contexto y el tiempo de ejecución (runtime) es donde se ejecutan las acciones. OpenShell se posiciona aquí: aplica políticas sobre archivos, destinos de red y procesos por separado de la razonamiento del agente. Si un agente intenta exportar datos sensibles a un destino no autorizado debido a instrucciones maliciosas, la red bloquea la transferencia y los registros protegidos capturan la llamada a la herramienta, la decisión de autorización y el resultado.
Cada agente necesita una identidad trazable y credenciales limitadas a su tarea asignada. Las instrucciones pueden guiar el comportamiento, pero OpenShell garantiza que los límites sean técnicos y no solo semánticos. Además, exige la aprobación humana para acciones de alto impacto o cambios de permisos, y permite verificar la integridad de las herramientas y dependencias que consume el agente.
Ecosistema de defensa
OpenShell no opera en el vacío. La alianza Open Secure AI Alliance, de la que NVIDIA forma parte, está integrando herramientas de terceros en esta base. Cisco ha creado DefenseClaw para añadir una capa de gobernanza, mientras que JFrog se integra para escanear y verificar las habilidades (skills) que los agentes pueden acceder.
Para validar que los controles funcionan antes del despliegue, NVIDIA señala herramientas como SafeMind de CrowdStrike para simulaciones de ataque repetidas y Prisma AIRS de Palo Alto Networks para red teaming continuo. En la investigación de vulnerabilidades, se mencionan VulnHunter de Capital One para seguridad de código y Spectra Assure de ReversingLabs para analizar paquetes de software en busca de malware.
La compañía argumenta que los modelos abiertos son cruciales para los defensores porque permiten inspeccionar componentes, adaptar estrategias y mantener la evidencia sensible dentro de su propia infraestructura durante la reproducción de fallos. El enfoque es compartir lo que falla y cómo se corrigió, convirtiendo cada hallazgo en una prueba repeatable. Para los equipos de TI, esto implica contar con una base técnicamente verificable para auditar las interacciones entre agentes y sistemas corporativos antes de que una brecha se convierta en un incidente real.
