Sanders y Casar proponen prohibir la superinteligencia y crear un Departamento de IA
El proyecto de ley presentado este miércoles pausaría de inmediato el entrenamiento de los modelos más avanzados y exigiría licencia federal para construirlos o venderlos.
Bernie Sanders y Greg Casar han presentado este miércoles un proyecto de ley que prohibiría de forma permanente la superinteligencia artificial en Estados Unidos. El texto, bautizado como Ban Artificial Superintelligence Act (comunicado), también pausa el trabajo sobre los sistemas de IA más avanzados y crea un Departamento de Inteligencia Artificial con potestad para autorizar quién entrena y quién vende modelos de frontera. Sanders es independiente por Vermont; Casar, demócrata por Texas, preside el Congressional Progressive Caucus.
Qué prohíbe exactamente
El texto del proyecto prohíbe construir o desplegar superinteligencia y la define de dos maneras: un sistema que supera el rendimiento cognitivo humano en la mayoría de dominios o tareas, y un sistema capaz de planificar y ejecutar la destrucción o la pérdida de poder de la humanidad. Además, pausa de inmediato el trabajo sobre sistemas avanzados, que el resumen sección por sección sitúa en 10^25 operaciones o más de entrenamiento.
La pausa no se levanta hasta que el nuevo departamento esté completamente dotado de personal y haya fijado reglas claras. A partir de ahí, cualquier empresa que construya o venda IA avanzada necesitará una licencia del organismo. Entre las señales de alarma que el resumen pide vigilar está la capacidad de un sistema de cambiar sus propias funciones, lo que el texto prohíbe como automejora recursiva.
Sanciones, apoyos y recorrido
Romper la prohibición o la pausa se castiga con hasta 20 años de prisión, una pena que la propia nota comparativa equipara a la de fabricar ilegalmente armas nucleares. Para las empresas, el texto habla de una pena de muerte corporativa: perder la licencia y entregar al Gobierno federal su propiedad intelectual y sus activos. La norma también protege a los empleados que denuncien riesgos ante el departamento.
Varios trabajadores de laboratorios de IA han respaldado la iniciativa en un comunicado compartido con la agencia Associated Press. Juan Felipe Cerón Uribe, investigador del equipo de Safety Systems de OpenAI, sostiene que la superinteligencia "podría salir extremadamente bien o extremadamente mal". Swante Scholz, ingeniero de software de Google DeepMind, habla por sí mismo: "Una prohibición del desarrollo de superinteligencia sería un cambio positivo para el futuro previsible".
"Cuando corres hacia un precipicio, no levantas el pie del acelerador: pisas el freno. Cuando está en juego el futuro de la humanidad, no podemos dejar que un puñado de consejeros delegados de Big Tech escriba sus propias reglas", dijo Sanders. Casar añadió que la ley "empuja acuerdos internacionales para que nadie, en ningún sitio, construya una IA demasiado poderosa para que los humanos la controlen".
El recorrido en el Congreso, controlado por los republicanos, es corto. Ya hay otros tres proyectos sobre IA esperando sin fecha de votación. El martes, Donald Trump dijo ante la ONU que Estados Unidos llamará a la IA "superinteligencia" y que fomentará la tecnología en lugar de frenarla. "Creo que Trump entiende muy poco de qué va este asunto", respondió Sanders. "Me parece que le preocupan sobre todo las implicaciones económicas de una desaceleración".
Para quien entrena modelos, la parte que más pesa es el umbral de cómputo: la pausa se ata a una cifra medible y no a una definición de capacidades, mucho más fácil de auditar. Queda por ver quién haría esa auditoría y con qué acceso a las instalaciones. Sanders ha pedido al Congreso que actúe en cuanto vuelva de su receso y quiere que los candidatos presidenciales de 2028 se pronuncien ya sobre el asunto.
