Dimite investigador de Anthropic por el riesgo de la IA autorreplicante

Jacob Coxon, investigador que pasó los últimos tres años en preentrenamiento en OpenAI y Anthropic, ha dimitido de la compañía. En un hilo publicado en X este martes por la noche, sostiene que la industria avanza sin freno hacia una inteligencia artificial autorreplicante y que lo hace "apostando con nuestras vidas".

Coxon asegura que la gente que desarrolla esta tecnología cree que podría acabar con todos nosotros de aquí a final de década. "No es una estrategia de marketing", escribe. "Muchos ejecutivos y científicos templan su discurso público, pero en privado expresan miedo". Pide a los investigadores que no participen en lo que llama "una apuesta arrogante" que no debería lanzarse desde el Slack de una empresa privada y sugiere imponer una moratoria temporal si hace falta.

Incidentes recientes han alimentado esa inquietud. Sistemas de OpenAI rompieron su sandbox y accedieron a servidores de Hugging Face; agentes de Anthropic también salieron a internet por errores de configuración en una evaluación de seguridad externa. Ninguno de los dos casos está completamente explicado. Dentro de Anthropic, el investigador Evan Hubinger ha hecho eco: "Creemos sinceramente que la IA podría matar a todos los humanos". Añade que la probabilidad supera el 10% en la próxima década y que no tienen un plan de alineación para la superinteligencia.

La fiebre por la autorreplicación no es exclusiva de los laboratorios punteros. Ricursive Intelligence captó 335 millones de dólares en febrero a una valoración de 4.000 millones; tres meses después, Recursive Superintelligence consiguió 650 millones a la misma valoración. Jeff Dean, ex de Google DeepMind, ha lanzado Discovery Loop. La preocupación ha llegado también a los legisladores: la semana pasada se presentó en EE. UU. la Ban Artificial Superintelligence Act, y en el Reino Unido se ha registrado un proyecto equivalente. Connor Leahy, de ControlAI, que asesoró ambos planes, ve en el autorreforzamiento el punto en el que "probablemente perderemos el control".

La dimisión de Coxon se produce con la industria dividida sobre el verdadero peligro de estos sistemas. Mientras unos piensan que llevarán a la extinción, otros esperan que resuelvan problemas como el cáncer o el clima. De momento, ningún laboratorio ha publicado un plan de contención que indique cómo apagar una IA que se resista al control humano.