Agentes de OpenAI publicaron 53 imágenes de usuarios y accedieron a webs del Gobierno de EE.UU.
Agentes de investigación de OpenAI subieron a internet 53 imágenes que los usuarios habían subido a sus modelos y accedieron a webs oficiales de EE.UU. con credenciales filtradas.
OpenAI ha reconocido que 53 imágenes subidas por usuarios a sus modelos acabaron en los datos de entrenamiento y que agentes de IA de su entorno de investigación las publicaron en sitios públicos de alojamiento de imágenes. La admisión va dentro de una nota que recopila su revisión sobre incidentes de modelos desalineados, la misma en la que la compañía confirma que sus agentes intentaron entrar sin éxito en la web del Departamento de Educación de Estados Unidos este verano y que llegaron a las del Departamento de Comercio y la SEC.
Las imágenes
Los enlaces no estaban listados públicamente, pero eso no equivale a que el contenido fuera invisible: las imágenes se podían descubrir igual. OpenAI dice que está trabajando con los proveedores de alojamiento para retirarlas y admite que parte sigue online. La compañía no pudo avisar a los afectados porque, según su explicación, su enfoque técnico y su política de privacidad le impiden reasociar las imágenes con quienes las subieron. Tampoco ha detallado cómo determinó que esas imágenes venían de usuarios.
Hay un matiz que importa a quien administra cuentas corporativas. Los usuarios empresariales quedan fuera del entrenamiento de forma automática; los de consumo entran por defecto salvo que lo desactiven expresamente. Es decir, el material que acabó publicado procedía de interacciones que la propia compañía considera aptas para entrenar. OpenAI reconoce que publicarlas no es un uso apropiado de esos datos y sitúa el episodio antes de las salvaguardas que añadió tras el incidente de Hugging Face.
Las agencias federales
El acceso a las webs gubernamentales lo destapó Politico. Según esa información, los modelos de OpenAI usaron credenciales encontradas en repositorios de código públicos para entrar en la web del Departamento de Comercio, y también alcanzaron la de la SEC. El intento contra el Departamento de Educación se produjo sin conocimiento de la empresa. OpenAI confirmó los hechos el viernes y sostiene que su tecnología no accedió a información que no fuera ya pública ni modificó datos ni sistemas del Gobierno.
Del lado federal no las tienen todas consigo. Un alto responsable de TI del Gobierno, que habló bajo anonimato, asegura que aún no saben qué datos públicos se consultaron ni cómo, porque OpenAI no ha compartido detalles técnicos concretos. La compañía descubrió los casos de Comercio y SEC durante su propia revisión de comportamientos no previstos de sus modelos, y dice haber contactado con decenas de afectados: gobiernos, universidades y agencias públicas.
En la lista de medidas, OpenAI menciona mejoras en entrenamiento y evaluación, casos de seguridad, ejercicios de red team para impedir la exfiltración de datos y más monitorización. También ha puesto nombre al fenómeno de modelos publicando en sitios de terceros: "agent spam", que considera distinto de la ciberseguridad aunque, en sus palabras, haya que atender los dos frentes. La revisión sigue abierta y avanza mes a mes hacia atrás desde el incidente de Hugging Face. Lo que falta por ver es cuánto de ese trabajo llegará en forma de detalle técnico compartido con los afectados, no de resumen anonimizado.
