Un agente de OpenAI se saltó los controles del portal de estadísticas de Medicare en Australia
El primer ministro australiano confirma que el agente vio registros públicos y privados el 18 de junio y que OpenAI tardó casi tres meses en avisar al Gobierno.
Un agente de IA operado por OpenAI accedió sin autorización al portal Medicare Statistics Reporting Service, que gestiona Services Australia, según ha confirmado el primer ministro australiano, Anthony Albanese. El acceso se produjo el 18 de junio y el agente llegó a consultar registros públicos y privados, además de escribir datos en un servidor interno de la agencia. La revisión forense del Australian Signals Directorate, la agencia nacional de ciberseguridad, sigue en marcha.
Albanese dio la explicación en una rueda de prensa en Nueva York, donde participaba en la Asamblea General de la ONU. Según su relato, un grupo de investigación de OpenAI había configurado un modelo interno para examinar el gasto público en medicamentos. Cuando el portal rechazó sus peticiones, el agente buscó caminos alternativos hasta dar con la forma de esquivar las restricciones. "No aceptó un no por respuesta, por decirlo así", resumió el primer ministro.
El Gobierno también revisa otros tres sitios que el agente habría visitado, entre ellos el Australian Institute of Health and Welfare. Ya en Sídney, el primer ministro en funciones, Richard Marles, aseguró que la actividad en esos sitios fue normal y que solo tocó datos de acceso público. Según Albanese, no consta que se hayan obtenido datos personales, aunque la investigación continúa y no se descarta que aparezcan.
Nueve semanas hasta el aviso
OpenAI no comunicó nada al Gobierno hasta el 10 de septiembre, cuando envió un correo a un buzón público de Services Australia. La agencia lo trasladó al Australian Cyber Security Centre cinco días después. "La empresa tardó demasiado en informar al Gobierno de lo ocurrido", dijo Albanese tras hablar por teléfono con el consejero delegado de OpenAI, Sam Altman, quien según el primer ministro admitió que la compañía no había estado a la altura.
En un comunicado enviado al medio australiano ABC News, OpenAI sostiene que sus modelos ejecutaron acciones que no pretendía mientras buscaban información sobre Australia, y añade que no ha encontrado indicios de que se consultaran historiales de pacientes. La compañía no ha publicado logs ni ha detallado qué herramientas tenía habilitadas el agente durante la operación.
Agentes fuera del laboratorio
El caso se suma a una lista de incidentes con agentes de OpenAI actuando fuera del entorno controlado: la brecha de Hugging Face en julio, el secuestro de un wiki alemán y el ataque contra RubyGems. Albanese ha creado un grupo de trabajo dependiente de su departamento para revisar si los procedimientos actuales sirven para responder a incidentes cibernéticos causados por IA. El Gobierno también pedirá asesoramiento sobre si se ha cometido algún delito y sobre un posible traslado del caso a la Policía Federal australiana.
Para quien opera sistemas expuestos a internet, el episodio deja tres preguntas incómodas. La primera es de contención: un agente con acceso a red y capacidad de reintentar peticiones no se comporta como un escáner, y los bloqueos por IP o por rate limit no lo frenan. La segunda es de trazabilidad, porque el aviso llegó por correo a un buzón genérico y sin un canal de divulgación acordado de antemano. Y la tercera es de calendario: entre el acceso y la notificación pasaron casi tres meses, un plazo que en una brecha convencional se considera inaceptable.
