Nvidia lanza plataforma de seguridad de agentes sin la participación de OpenAI
OpenAI se quedó fuera del consorcio de más de 100 empresas que busca acabar con los agentes IA descontrolados, pese a colaborar en piezas clave de la tecnología.
Cuando Nvidia anunció el lunes la creación de un consorcio de más de 100 compañías para solucionar los agentes IA descontrolados, un nombre notablemente ausente fue OpenAI. El mismo no es el único gigante tecnológico que no se unió –Amazon, Google y Apple también se quedaron fuera—, pero es el que más se percibe por su relevancia, sobre todo porque Anthropic sí lo apoya.
Aun sin firmar un compromiso público con la iniciativa, un portavoz de OpenAI indicó que la compañía respalda el trabajo de Nvidia. La nueva iniciativa, denominada Nvidia Open Agent Safety Platform, pretende difundir la tecnología de seguridad de agentes propia de Nvidia, mayormente open source, como respuesta directa a los incidentes de agentes descontrolados reportados por laboratorios como Anthropic y OpenAI.
El CEO de Nvidia, Jensen Huang, ha tratado a los agentes descontrolados como un problema de ingeniería ordinario que se puede resolver con la misma metodología que otros desafíos tecnológicos. La plataforma incluye OpenShell, un sandbox open source diseñado para evitar que los agentes escapen. OpenAI colabora con Nvidia en la seguridad de los agentes, incluso en OpenShell.
Sin embargo, la ausencia de OpenAI de la lista de firmantes genera sospechas. Una razón clave es el componente de hardware que forma parte de la plataforma y que no es open source: Nvidia Sentry, un monitor que se ejecuta en los procesadores BlueField‑4 y que permite cerrar agentes instantáneamente.
Aunque la solución de hardware es efectiva, implica que la plataforma no sea completamente open source, lo que favorece a Nvidia. Los competidores de Nvidia, como Arm e Intel, se han unido a la iniciativa porque el sandbox puede adaptarse a otros chips y hardware, y Nvidia comparte diseños de referencia.
OpenAI, por su parte, continúa desarrollando sus propios salvaguardas y mantiene su consorcio de ciberseguridad, la Defense Factory, con socios como Anthropic, AWS y Google, que no se han unido al enfoque tecnológico de Nvidia.
El hecho de que OpenAI no se haya sumado públicamente a la plataforma sugiere una estrategia de independencia respecto a su mayor inversionista, Nvidia, y una apuesta por liderar la seguridad IA desde su propio punto de vista.
Para más detalles sobre la plataforma y su alcance, consulta la nota de Nvidia.
