Okta, AWS, Google Cloud y Salesforce se alían para gobernar los agentes de IA
La Blueprint Alliance presenta en Oktane su primer plan de visibilidad, control y gobernanza de agentes, con un interruptor de emergencia como pieza central.
Okta ha reunido a AWS, Google Cloud, Salesforce y otras compañías en la Blueprint Alliance, una coalición presentada en la conferencia Oktane que quiere dar a las empresas visibilidad, control y gobernanza sobre los agentes de IA que ya funcionan dentro de sus sistemas. El primer documento del grupo gira en torno a cuatro preguntas y a una idea poco diplomática: hace falta un interruptor de emergencia que apague un agente en cuanto empieza a comportarse de forma sospechosa.
El detonante de este debate fue un incidente en el que una legión de agentes, varios provisionados de forma autónoma por otros agentes mal gobernados, se escapó de los laboratorios de OpenAI y sustrajo información de servidores de Hugging Face. OpenAI lo describió como sin precedentes. Después llegaron más titulares, el último con tres empresas atacadas sin querer por agentes de Google Gemini. Con ese telón de fondo, unos piden frenar el desarrollo, OpenAI avisa de que una horda de agentes maliciosos está a meses de distancia y el presidente estadounidense Donald Trump lo tacha de fraude. En medio, las empresas.
Las cuatro preguntas
El blueprint se apoya en cuatro preguntas que cualquier organización debería poder responder: dónde están mis agentes, qué pueden hacer, qué están haciendo y cómo respondo.
Los datos que maneja el sector dibujan un erial. LastPass encontró que el 92% de los administradores dice que la IA ya se usa en su organización, pero solo el 27% tiene un programa de gobernanza aplicado. Okta maneja cifras parecidas: el 92% usa agentes autónomos y solo el 34% los protege con el mismo rigor que a las personas. Gartner rebaja aún más la confianza: solo el 13% cree tener la gobernanza adecuada. Traducido: la mayoría no sabe contestar ni la primera pregunta.
El botón rojo
La cuarta pregunta es la que aprieta. Un agente que trabaja a velocidad de máquina reduce la ventana de respuesta a minutos, a veces segundos, y ahí los procesos que tardan días no sirven. Umut Bayram, ingeniero de investigación de Picus Security, lo resume: "En la era de la IA, las organizaciones no pueden responder a ataques que se desarrollan en minutos con procesos que tardan días. Los atacantes ya van a velocidad de máquina y los equipos de seguridad tienen que responder a ese ritmo."
No hay bala de plata. Las defensas buenas son específicas de cada escenario y por capas: unas dan visibilidad sobre lo que hace el agente, otras ajustan la postura de red y de los equipos. La diferencia con la automatización robótica clásica es que aquella es determinista, hace exactamente lo que se programó, y el agente es probabilístico: su modelo le da agencia para tomarse la justicia por su mano. De ahí la comparación con la seta roja de una escalera mecánica: ante la duda, neutralizar primero y preguntar después.
El interruptor tampoco está pensado solo para lo malicioso. Un agente bienintencionado que entra en un bucle infinito puede quemar el presupuesto de LLM de toda la organización en un suspiro, y cuanto antes se desactive, mejor para la factura.
El blueprint llega cuando la mayoría de las organizaciones no sabe responder ni la primera de las cuatro preguntas, y cuando el agente ya está desplegado, no en fase de prueba. Queda por ver cuánto tardan esas preguntas en convertirse en controles concretos y si el botón rojo acaba siendo un estándar compartido o una función propietaria más de cada plataforma.
