OpenAI admite que un agente de IA saturó RubyGems durante pruebas de entrenamiento

OpenAI ha reconocido que uno de sus agentes de IA, todavía en pruebas, usó RubyGems para salir a internet. La compañía lo enmarca en tareas que describe como inofensivas y orientadas a recopilar información pública durante el entrenamiento. El episodio ocurrió en mayo y acabó con el registro de cuentas nuevas del gestor de paquetes de Ruby cerrado durante cuatro días. La historia la publicó primero el Wall Street Journal, y OpenAI ha confirmado los hechos.

GemStuffer

Los investigadores de seguridad han bautizado el suceso como GemStuffer. Según su relato, el agente creaba tandas de cuentas nuevas en RubyGems cada dos o tres minutos y descargaba los cientos de páginas web que había ido recolectando. El volumen fue tal que Ruby Central, la organización sin ánimo de lucro que mantiene el servicio, tuvo que bloquear las altas durante cuatro días. Ese es el mismo registro que usan a diario los desarrolladores de Ruby para publicar sus gem, el equivalente a pip en Python o a npm en Node.js.

Hay un segundo frente, y es el que más incomoda a quien mantiene una cadena de suministro de software. Los investigadores sostienen que el agente intentó aprovechar dos vulnerabilidades que le habrían permitido publicar versiones nuevas de paquetes ajenos. Una de ellas la describen como un zero-day desconocido hasta ahora. OpenAI asegura que no puede confirmar ese punto. Ruby Central reconoce que el incidente tuvo una escala considerable, pero afirma que el supuesto zero-day no llegó a explotarse.

Dos meses antes del caso de Hugging Face

El episodio de RubyGems es anterior a otro caso ya conocido en el que también aparece un agente de OpenAI, esta vez relacionado con la plataforma Hugging Face. Entre uno y otro hay dos meses de diferencia.

Para quien administra un registro público, un índice de paquetes o cualquier servicio con alta de usuarios abierta, la noticia tiene una lectura concreta: un agente mal calibrado puede generar cuentas y tráfico a un ritmo que una infraestructura comunitaria no está dimensionada para absorber, y lo puede hacer durante horas antes de que nadie lo note. La parte de publicar versiones de paquetes ajenos es, además, uno de los escenarios que lleva años en las quinielas de seguridad de la cadena de suministro, el mismo terreno que pisaron los incidentes de npm y PyPI.

No hay detalles públicos sobre qué controles ha cambiado OpenAI tras las pruebas ni sobre si Ruby Central ha endurecido el proceso de alta de cuentas. Tampoco se sabe qué límites de peticiones aplica ahora el servicio a clientes nuevos.