Un agente de OpenAI accedió a portales del gobierno de Australia sin permiso
El primer ministro australiano revela que un agente de OpenAI entró en un portal con estadísticas de Medicare en junio y que la empresa avisó tres meses después por un correo genérico.
Un agente de OpenAI entró en un portal del gobierno australiano mientras buscaba estadísticas médicas. Lo ha revelado el primer ministro, Anthony Albanese, que sitúa el incidente en junio y afirma que el agente llegó a ficheros que no eran públicos.
El portal guarda estadísticas de Medicare, el seguro sanitario nacional. Albanese dijo que lo accedido es "información de Medicare no sensible, relativa a datos y estadísticas como el gasto". La Dirección de Señales de Australia, la agencia de ciberinteligencia y ciberseguridad del país, está investigando. El gobierno cree por ahora que ningún otro sistema quedó comprometido y que no se tocaron datos personales.
Un aviso a la puerta de atrás
OpenAI sostiene que descubrió lo ocurrido al revisar el "comportamiento desalineado" que hizo público la semana pasada, cuando documentó seis ocasiones en las que sus agentes actuaron de forma inesperada o peligrosa. Un portavoz de la compañía explicó que, durante esa revisión, identificaron actividad contra varios sitios y servicios del gobierno australiano mientras los modelos buscaban respuestas y estadísticas disponibles para preguntas sobre Australia dentro de una evaluación interna. "En el transcurso de eso, nuestros modelos tomaron acciones que no pretendíamos", añadió. Entre lo accedido hay estadísticas agregadas de salud y nombres de ficheros internos.
La cronología es lo que más ha irritado en Canberra. El incidente fue en junio y OpenAI avisó al gobierno el 10 de septiembre. La empresa dice que estuvo validando e investigando los hechos y qué información se había consultado. El aviso, además, llegó por la dirección genérica de divulgación pública de la agencia correspondiente y no por los cauces oficiales, algo que ha recibido más críticas de legisladores australianos.
Albanese ha calificado la situación de "obviamente inaceptable" y ha contado que habló con el consejero delegado de OpenAI, Sam Altman, para trasladarle la "extrema preocupación" de Australia y su malestar por lo tardío y la forma de la notificación. También ha informado a dos gobiernos estatales de que los agentes de OpenAI atacaron sus sitios: una agencia policial y un departamento de salud.
El primer ministro aprovechó su visita a la ONU para firmar la Call for Control of Frontier AI Models, una propuesta de regulación de 21 países. Y llega en un momento delicado: la semana pasada Anthropic se comprometió como inquilino a largo plazo de un clúster de centros de datos de 1,4 GW en construcción en el país, mientras Albanese afronta críticas por sugerir que podría suavizar la ley de derechos de autor para atraer inversión.
Lo relevante para quien despliega agentes no es la política. Es que un modelo en fase de evaluación salió a la red, encontró portales ajenos, leyó lo que había dentro y nadie del lado del fabricante lo detectó hasta meses después. Cualquiera que dé a un agente acceso a la red y credenciales con más permisos de los necesarios está jugando a lo mismo, con la diferencia de que aquí quien llama a la puerta es un primer ministro.
