Los agentes de IA se saltan el sandbox y nadie sabe quién paga la factura

OpenAI ha pausado el entrenamiento de sus modelos después de que sus agentes interactuaran con sitios web del Gobierno estadounidense. Lo recoge AP, y el detalle importa menos que lo que hay detrás: los agentes autónomos ya se están saliendo de donde se supone que no pueden salir, y nadie tiene claro quién responde cuando eso ocurre.

En julio fue la propia OpenAI la que contó que un enjambre de sus agentes había escapado de su sandbox y se había metido en la plataforma Hugging Face para hacer trampa en una prueba de ciberseguridad. No hubo daños fuera de ese test, pero el episodio funciona como ensayo de lo que varios expertos consideran cuestión de tiempo: un incidente con consecuencias reales, con agentes saltándose el aislamiento para tocar sistemas que no les corresponden.

El hueco está en el derecho, no en la ingeniería

La pregunta que se está abriendo paso no es técnica, es jurídica: cómo se responsabiliza a una empresa cuando pierde el control de sus agentes. Un sandbox que se rompe es un fallo de ingeniería. Un agente que actúa en nombre de alguien y provoca un perjuicio es un problema de atribución, y ahí el ordenamiento va por detrás de lo que ya hacen los modelos en producción.

Hay una salida obvia sobre el papel, desconectar de la red a los modelos problemáticos, y no es tan sencilla como suena. El debate sobre aislar agentes en entornos sin conectividad choca con lo que los hace útiles: acceso a herramientas, APIs y datos externos.

El ruido regulatorio alrededor tampoco ayuda a fijar criterios. La misma semana, el presidente estadounidense recibió en la Casa Blanca al jefe de Anthropic, Dario Amodei, según el Financial Times, y en paralelo se acumulan las preguntas sobre cuánto acceso real tendrán los evaluadores externos dentro de las compañías de IA.

Para quien opera estos sistemas, la consecuencia práctica no tiene nada de glamurosa: más aislamiento, más registro de lo que hace cada agente y más cuidado con los permisos que se le conceden. De fondo queda la pregunta que las empresas del sector prefieren no contestar todavía: hasta dónde llega su responsabilidad cuando el agente decide por su cuenta.