Investigadores de AI advierten de riesgo de extinción y el Pentágono lo rechaza

Un ex empleado de Anthropic, Jacob Coxon, anunció su renuncia y, en la misma publicación, advirtió que las firmas de IA están "correrando directamente a la superinteligencia auto‑mejorable" y poniendo en riesgo la vida humana.

El mensaje, que ha superado los 150 millones de visualizaciones según Bloomberg, llegó a más de 100 millones de personas en pocos días. Coxon, que trabajó tres años en OpenAI y Anthropic, afirmó que los desarrolladores creen que la tecnología puede terminar con la humanidad antes del final de la década.

El anuncio fue apoyado por varios científicos de la industria:

• Evan Hubinger, jefe del equipo de alineación de Anthropic, estimó una probabilidad superior al 10 % de extinción.
• Samuel Marks y Paul Christiano, ex jefe de seguridad de la Comisión de AI del Departamento de Comercio, coincidieron en que la aceleración de capacidades podría provocar una pérdida irreversible de control.
• Geoffrey Hinton y Julie Steele también expresaron preocupaciones sobre la necesidad de ralentizar el desarrollo.

El 1 400 empleados de empresas de frontera firmaron una carta abierta en julio pidiendo al gobierno que regulara el ritmo de la IA.

Sin embargo, el Pentágono rechazó la advertencia. Emil Michael, director de tecnología del Departamento de Defensa, calificó el mensaje de Coxon como un "loop de miedo" y afirmó que el libre mercado y la colaboración con el gobierno mitigan los riesgos. Michael también reveló que el 90 % de las cargas de trabajo clasificadas en IA se han trasladado de Anthropic, con la meta de completar la migración antes de fin de mes.

Políticamente, la noticia provocó respuestas rápidas. La congresista Lori Trahan citó la necesidad de la Ley FRONTIER y la propuesta de la Ley Ban Artificial Superintelligence. Senadores como Bernie Sanders y Ted Cruz también expresaron su inquietud.

Anthropic no respondió a las solicitudes de comentarios y OpenAI también mantuvo silencio. La compañía planea una oferta pública inicial en octubre, aunque la incertidumbre política podría retrasarla.

En síntesis, la advertencia de Coxon y el respaldo de expertos han generado un debate intenso, mientras el Pentágono y algunos legisladores buscan equilibrar innovación y seguridad.