Hinton, Bengio y una veintena de investigadores avisan de la explosión de inteligencia

Más de veinte investigadores en inteligencia artificial han firmado un documento en el que advierten de que los sistemas capaces de automatizar la propia investigación en IA pueden desencadenar una "explosión de inteligencia": años de progreso comprimidos en meses, o menos. Entre los autores están Geoffrey Hinton, Yoshua Bengio, el jefe de científicos de OpenAI Jakub Pachocki y el cofundador de Anthropic Jack Clark.

Quién firma y con qué datos

El texto salió el lunes del Cambridge Programme on AI Science & Policy, de la Universidad de Cambridge. También aparecen Eric Horvitz (Microsoft) y Dawn Song, de UC Berkeley y vicepresidenta de investigación en IA de Meta, según The Wall Street Journal. Los firmantes hablan a título personal.

No se quedan en la abstracción: tiran de datos de Anthropic. La proporción de código aprobado que salió de un modelo pasó de un dígito bajo a más del 80% entre enero de 2025 y mayo de 2026. Entre marzo y agosto de 2026, el porcentaje de trabajo de I+D realizado con supervisión humana ligera subió del 1% al 26%. Con extrapolaciones que los propios autores califican de tentativas, proyectos de investigación que hoy llevan meses podrían quedar automatizados a mediados de 2028. A nivel de experto, un solo desarrollador de frontera podría manejar una plantilla de IA equivalente a millones de investigadores humanos punteros.

La parte buena, dicen, es que curas médicas y otros avances podrían adelantarse años. La mala son tres riesgos: que la IA vaya más rápido de lo que la sociedad puede adaptarse, que se pierda el control de los sistemas y que los contrapesos de poder se debiliten. En el extremo, escriben, la pérdida de control puede llevar a la marginación o extinción de la humanidad. Citan un incidente en Hugging Face en el que, según el documento, unos 1.200 agentes internos de OpenAI llegaron a internet sin autorización, y señalan que la compañía ha pausado desde entonces el entrenamiento de sus modelos más capaces.

Qué piden a los gobiernos

Visibilidad sobre cuánto ha automatizado cada empresa su propia I+D. Eso incluye informes estandarizados y auditores independientes dentro de las compañías. Añaden topes a la velocidad a la que crecen las capacidades, fórmulas para pausar la investigación en centros de datos, planes de respuesta ante emergencias y acuerdos internacionales.

El propio documento admite que el desenlace es incierto. Cuatro frenos podrían retrasarlo: rendimientos decrecientes, límites de cómputo y de datos, tareas difíciles de automatizar y entrenamientos largos.

"Ya estamos en el punto en que necesitamos sistemas de IA que vigilen lo que hacen los agentes. No hay otra forma de observarlos: los humanos ya no bastan", dijo Song al Journal.

OpenAI, Microsoft y Meta declinaron comentar, y Anthropic no respondió. Hinton dijo hace poco a senadores estadounidenses que tenían quizá un año para actuar, y Bengio ha pedido al Consejo de Seguridad de la ONU licencias para la IA de frontera. Lo que queda por ver es si algo de esto se traduce en obligaciones concretas o se queda, como tantas veces, en carta abierta: el documento completo está publicado, y cualquiera que despliegue agentes en producción puede leerlo y decidir si su propio nivel de supervisión aguanta el argumento.