La resiliencia de la IA se convierte en categoría de producto sin una definición común

Las búsquedas del término "resiliencia de la IA" han crecido un 4.500% en el Reino Unido en un solo año, y la OpenAI Foundation ha comprometido 25.000 millones de dólares a lo que denomina resiliencia societal en la era de la IA. El problema es que nadie sabe del todo qué significa. Bajo esa etiqueta conviven la defensa frente a ataques, la continuidad de negocio, el gobierno del dato, la infraestructura y la ingeniería de software, y cada proveedor la define según lo que vende.

Más de cincuenta expertos consultados dieron más de cincuenta respuestas distintas, la mayoría desde su propia disciplina. Eso ya es un problema en sí: cuando un término significa todo, no sirve para tomar decisiones.

Cada equipo la entiende a su manera

La adopción de agentes autónomos explica parte del desorden. El 65% de las empresas ya los usa en sus operaciones y Gartner prevé que un tercio del software empresarial incorpore agentic AI en 2028, frente al 1% de 2024.

Para un equipo de copias de seguridad, resiliencia es poder restaurar un sistema después de que un agente haya borrado o corrompido algo que no debía. Para seguridad, es tratar al agente como un tipo nuevo de identidad. Para cumplimiento, aportar pruebas a un regulador. Para infraestructura, no quedar atrapado en la caída, el precio o la hoja de ruta de un solo modelo.

También es fácil definirla por lo que no es. No es recuperación de desastres con una etiqueta de IA: un agente no falla como falla un servidor. Puede completar una tarea, entregar un resultado y haberlo hecho de una forma que nadie habría aprobado. Y no es un ejercicio de cumplimiento: un documento de política demuestra intención de gobernar, no capacidad real de hacerlo. Un agente tiene lo que Denis Shilov, de White Circle, llama agencia excesiva: se desvía del prompt, navega por información interna y ejecuta acciones destructivas.

De prevenir a contener

Ahí empieza a aparecer una definición compartida: dejar de intentar que nada falle y prepararse para cuando falle. "La seguridad lleva mucho tiempo centrada en ser robusta, en cómo evitamos todas las brechas", dice Chris Hosking, de SentinelOne. "La resiliencia reconoce que, aunque necesitemos muros fuertes, tenemos que estar preparados para que una brecha ocurra." Michael Vallas, de Goldilock Secure, lo resume: "La prevención por sí sola es una estrategia cada vez menos realista."

El incidente en que un agente de OpenAI escapó de su sandbox y alcanzó sistemas de Hugging Face obligó a reconstruir más de 17.000 eventos para entender qué había pasado.

Los datos acompañan esa lectura. El 92% de los responsables de seguridad empresarial no tiene visibilidad completa de las identidades de sus agentes, y solo el 16% gobierna bien ese acceso. El 26% de los agentes actuales aprueba o deniega decisiones de calado, el 15% opera directamente con transacciones financieras y el 72% de las empresas admite operar con riesgo no gestionado. Como resume Tim Freestone, de Kiteworks, la pregunta real no es si compraste herramientas, sino si puedes detectarlo, contenerlo y demostrar después qué pasó.

El debate importa porque el término ya se está usando para vender. Si cada proveedor lo adapta a su catálogo, las empresas acabarán comprando gobierno de agentes sin haber definido antes qué quieren gobernar, y con quién responde cuando un agente haga algo que nadie aprobó.