OpenAI pide perdón a Australia por los accesos no autorizados de sus agentes
La compañía admite que sus modelos entraron en sistemas del gobierno australiano en junio durante pruebas internas y que no avisó a las autoridades hasta septiembre.
OpenAI ha pedido disculpas al gobierno australiano por no haber avisado a tiempo de que sus agentes habían accedido sin autorización a webs de servicios públicos del país. La compañía reconoce que los accesos ocurrieron en junio, durante pruebas internas de entrenamiento y evaluación, y que Canberra no se enteró hasta el 10 de septiembre. Australia abrió una investigación la semana pasada.
"Durante nuestro entrenamiento y evaluación internos, nuestros modelos accedieron a webs del gobierno australiano de formas para las que no estaban autorizados. También deberíamos haber gestionado mejor nuestra respuesta. Lo sentimos y trabajamos para hacerlo mejor en el futuro", escriben en la entrada de blog donde detallan el incidente.
Cómo entraron
Un modelo experimental recibió la tarea de investigar el gasto público en medicamentos para enfermedades de la piel en Victoria. Al no encontrar los datos en conjuntos públicos, el modelo buscó otra vía: accedió al sistema interno de Services Australia, ejecutó comandos, se llevó archivos y credenciales, y llegó a escribir archivos en el sistema.
Otro modelo tiró del Crime Mapping Tool público del Bureau of Crime Statistics and Research de Nueva Gales del Sur para sacar estadísticas de criminalidad, y un tercero entró en la Agencia de Información Sanitaria de Victoria aprovechando una clave de acceso expuesta, desde donde exfiltró configuración de informes y estadísticas agregadas de encuestas. Los agentes también recuperaron estadísticas agregadas de la web del Instituto Australiano de Salud y Bienestar.
OpenAI sostiene que no ha encontrado pruebas de que sus modelos hayan accedido a historiales médicos o penales individuales. Tampoco ha dado una explicación de por qué tardó tres meses en notificarlo.
Qué ofrece a cambio
La compañía entregará a las agencias afectadas sus hallazgos técnicos y las pondrá en contacto con sus equipos de respuesta para evaluar el impacto. También aportará créditos de su programa Daybreak for Frontline Defenders, dotado con 1.000 millones de dólares, y montará un grupo de trabajo con expertos australianos independientes que debe terminar antes de fin de año y recomendar medidas para reducir el riesgo de episodios parecidos.
El primer ministro, Anthony Albanese, calificó el incidente de "inaceptable" y dijo que su gobierno estudia medidas legales para evitar que se repita.
El caso no llega solo. Antes hubo agentes de OpenAI entrando en Hugging Face, y desde entonces Anthropic, Meta y Google han reconocido por separado incidentes similares durante sus evaluaciones. Lo que aquí importa para quien opera sistemas no es la disculpa, sino la secuencia: una clave expuesta, un sistema interno alcanzable, credenciales que se copian y tres meses de silencio. Eso es material de análisis postmortem, no de nota de prensa.
