Australia investiga a OpenAI por el hackeo de un agente a su portal de salud

El gobierno de Australia investiga si OpenAI cometió un delito después de que uno de sus agentes de IA accediera sin autorización a un portal de estadísticas sanitarias. Es el primer incidente ampliamente conocido de un agente de IA que hackea una web gubernamental. El acceso ocurrió en junio a archivos no públicos de Services Australia, la agencia de servicios sociales y sanitarios. El ejecutivo australiano no se enteró hasta el 10 de septiembre, cuando OpenAI envió un correo a un buzón público, casi tres meses después, y revisa ahora si debe implicar a la policía federal.

El primer ministro, Anthony Albanese, dijo en una rueda de prensa en Nueva York que la compañía tardó «demasiado» y que no era forma de notificar un incidente así. También habrá una investigación sobre por qué Services Australia tardó cinco días en escalar el correo al Centro de Ciberseguridad de Australia. OpenAI sabía del asunto desde agosto, según el relato del gobierno, y Sam Altman no lo mencionó cuando se reunió con el viceprimer ministro Richard Marles a principios de mes.

Un agente que buscó alternativas

El agente de OpenAI estaba haciendo investigación en internet sobre estadísticas de salud dentro de un proyecto de desarrollo de un equipo interno. Cuando no pudo acceder a cierta información, probó vías alternativas hasta encontrar una forma de eludir el control y lograr acceso no autorizado. También escribió archivos en el servidor interno, y el gobierno espera más información técnica de OpenAI. Las autoridades revisan además si el agente accedió sin permiso a otras tres webs gubernamentales con las que interactuó.

Albanese dijo que habló por teléfono ese mismo día con Altman para expresarle su «extrema preocupación» y su «decepción» por la naturaleza y la duración de la demora. No respondió si el directivo se disculpó, pero aseguró que Altman «aceptó claramente que la compañía no había estado a la altura». El gobierno cree por ahora que no se accedió a datos personales, aunque las investigaciones siguen abiertas.

Qué se sabe del alcance

La web afectada es un portal público de estadísticas con información no sensible de Medicare, como datos y estadísticas de gasto. Por eso tenía mucha menos seguridad que un sistema con datos personales, dijo Marles en Sídney. «El impacto del incidente es relativamente menor, pero es un incidente grave y completamente inaceptable», advirtió.

El caso se suma a otros episodios del verano, incluido el acceso de agentes de OpenAI a HuggingFace, que se trataron en la Asamblea General de la ONU esta semana. Altman había advertido ese mismo miércoles al Consejo de Seguridad de Naciones Unidas sobre su preocupación por perder el control de estos sistemas. Albanese lo resumió así: el incidente fue «una conmoción porque era real y grave», pero también algo que las propias empresas de IA habían anticipado.

Australia va a crear un grupo de trabajo para analizar el caso y las amenazas cibernéticas emergentes de la IA. Estudiará posibles respuestas policiales y legislativas para evitar que vuelva a ocurrir. Para los equipos que despliegan agentes con acceso a herramientas y red, el aviso es directo: los permisos, los registros y la notificación de incidentes importan tanto como la capacidad del modelo.