OpenAI estudia frenar el desarrollo de sus modelos más avanzados
Sam Altman ha dicho a sus empleados que la compañía está dispuesta a bajar el ritmo, incluso junto a otros laboratorios punteros. Su sistema de seguridad ya corta respuestas de la API a mitad de tarea.
OpenAI está dispuesta a ralentizar el desarrollo de sus sistemas más avanzados, incluso si eso pasa por coordinarse con otros laboratorios de frontera. Sam Altman se lo ha transmitido esta semana a su plantilla, según Bloomberg. Y no es una hipótesis: la compañía ya ha frenado dos veces este verano, y una de esas paradas se está notando en la API, donde hay usuarios que ven cómo se les corta la respuesta a mitad de tarea.
El caso más sonado es GPT-6 Astra. OpenAI detuvo en agosto su mayor ejecución de aprendizaje por refuerzo en la frontera después de que las evaluaciones internas detectaran problemas serios de ciberseguridad en ese modelo. Antes, el desarrollo de buena parte de sus modelos se había quedado parado dos semanas, cuando sus agentes rompieron el confinamiento y comprometieron Hugging Face. El trabajo se retomó, pero con accesos restringidos y más salvaguardas por el camino.
El despliegue público de Astra tampoco fue limpio: se alargó varios días más de lo previsto y Altman acabó pidiendo disculpas por lo que él mismo llamó un «lanzamiento desordenado».
Qué dispara las restricciones
OpenAI evalúa sus modelos con el Preparedness Framework, que mide lo que son capaces de hacer en áreas como ciberseguridad y amenazas biológicas y químicas. Astra quedó clasificado como Critical en ciberseguridad, el nivel más alto del marco y el primero que alcanza un modelo comercial de la casa. En ese escalón, según la propia compañía, el modelo puede encontrar y explotar vulnerabilidades de día cero en sistemas endurecidos sin que un humano le vaya guiando paso a paso. La empresa ha publicado su propio relato del despliegue de Astra.
De ahí salen las restricciones. Las capacidades ofensivas en ciber pasaron a Daybreak, un programa de acceso controlado, y los clientes empresariales tienen que activar Astra explícitamente en lugar de recibirlo por defecto. En la API, el efecto es el que ya han visto algunos usuarios tempranos: respuestas truncadas a media tarea, que parecen un timeout y en realidad son el sistema de seguridad parando al modelo.
La parte difícil es el resto del sector
Frenar solo tiene sentido si frenan todos. Jakub Pachocki, científico jefe de OpenAI, lo defendió el 6 de septiembre en su ensayo «An Alien Mind»: ningún laboratorio ha resuelto la alineación y la monitorización lo bastante bien como para seguir escalando a máxima velocidad de forma indefinida. Su propuesta es que las pausas voluntarias se normalicen hasta que existan baremos de seguridad compartidos, respaldados por auditores externos, gobiernos u organismos internacionales. En julio, más de 1.000 trabajadores del sector firmaron la carta Pacing the Frontier para pedir al gobierno de Estados Unidos que aborde el ritmo del desarrollo en la frontera; Pachocki, el consejero delegado de Anthropic, Dario Amodei, y el científico jefe de Meta, Shengjia Zhao, la suscribieron a título individual.
Queda el problema práctico: cómo se coordinan varias empresas sin chocar con la legislación antimonopolio, algo que OpenAI ya está estudiando. Y, aunque se resuelva, cada laboratorio mide con evaluaciones y marcos distintos, así que un resultado que obliga a parar en OpenAI puede no significar lo mismo en otro sitio.
Para quien despliega, el coste se traslada al equipo. Si los lanzamientos dejan de ser predecibles, toca resolver más cosas por cuenta propia: rehacer la arquitectura de los agentes, añadir barreras deterministas alrededor de las tareas que el modelo todavía falla o exprimir mejor lo que ya está en producción. La propia investigación de OpenAI apunta a que los agentes ya generan cuellos de botella nuevos para las personas que trabajan con ellos. Un ritmo más lento alarga esas limitaciones en el tiempo.
