Expertos de EE. UU. y China proponen normas para impedir que la IA controle armas nucleares
Melanie Sisson y Tianjiao Jiang lanzan propuestas para que las armas nucleares sigan bajo control humano, con líneas rojas y una línea directa para incidentes de IA.
Propuesta de control humano
Melanie Sisson, de la Brookings Institution, y Tianjiao Jiang, de la Universidad Fudan, publicaron hoy una serie de recomendaciones que buscan evitar que sistemas de inteligencia artificial tomen decisiones autónomas sobre el lanzamiento de armas nucleares. El documento, preparado antes de la reunión programada entre el presidente Trump y el presidente Xi el 24 septiembre, establece varias líneas rojas.
- No se debe permitir que una IA lance armas nucleares por sí sola.
- No se debe permitir que una IA ataque sistemas de mando y control nucleares.
- Los humanos deben conservar el control exclusivo sobre ciberataques guiados por IA dirigidos a infraestructuras estratégicas.
- Ambos países deben acordar una definición compartida de “control humano”.
Estas recomendaciones se basan en el acuerdo alcanzado entre Biden y Xi en noviembre de 2024.
Línea directa para incidentes
Jiang propone además una línea directa para incidentes de IA. Si un sistema defensivo de IA responde automáticamente a una actividad sospechosa, la otra parte podría interpretarlo como un ataque. Con una línea directa, un gobierno podría aclarar que el incidente fue accidental antes de que la situación se intensifique.
Carla Freeman de la Universidad Johns Hopkins cuestiona la viabilidad de tales líneas directas, recordando que durante la crisis del globo espía en 2023 China no respondió cuando EE. UU. llamó.
Contexto histórico
El llamado a preservar el control humano sobre armas nucleares no es nuevo. La Comisión de Seguridad Nacional sobre Inteligencia Artificial (NSCAI) ya había emitido recomendaciones al respecto en 2021. No obstante, hasta la fecha no existen mecanismos vinculantes.
Implicaciones prácticas
Para los administradores de sistemas y responsables de infraestructura, la propuesta subraya la necesidad de mantener controles de acceso y auditoría estrictos sobre cualquier software que pueda influir en sistemas críticos. La idea de una línea directa sugiere que las organizaciones deben preparar protocolos de respuesta y comunicación con socios internacionales.
Próximos pasos
El acuerdo de 2024 y las nuevas propuestas de Sisson y Jiang abren la puerta a un marco regulatorio internacional. Si se aprueba, las empresas de defensa y los proveedores de IA tendrán que incorporar controles de “human‑in‑the‑loop” y mecanismos de verificación de intentos de lanzamiento.
El debate seguirá en los próximos días, con la reunión de Trump y Xi como punto de inflexión.
