Big AI acuerda un plan de captura regulatoria llamado ‘Pace the frontier’
Anthropic, OpenAI y SpaceX han firmado una propuesta para regular su propio crecimiento, con la intención de ganar ventaja competitiva y evitar responsabilidad por su tecnología.
Acuerdo de los titanes de IA
Los CEOs de Anthropic (Dario Amodei), OpenAI (Sam Altman) y SpaceX (Elon Musk) firmaron, en un fin de semana, un plan que denominaron Pace the frontier. El objetivo es capturar a los reguladores, asegurar mayores ingresos y evitar la responsabilidad por los riesgos de sus modelos.
Qué propone Amodei
Amodei lanzó la idea con una publicación en su blog donde advierte que el rápido progreso de la IA puede permitir a “agentes” crear un botnet que domine Internet. Para frenar eso, plantea:
- Evaluadores incrustados: cada laboratorio debe alojar evaluadores que verifiquen prácticas de seguridad, reporten incidentes y evalúen la alineación de los modelos y de los pipelines de entrenamiento.
- Estándares comunes: las empresas de IA de países democráticos deben establecer estándares de seguridad y límites sobre la velocidad del desarrollo, con coordinación legal que requeriría apoyo gubernamental.
- Coordinación internacional: los gobiernos democráticos deben colaborar con gobiernos autoritarios en la medida posible, aunque la verificación sea complicada.
Altman y Musk respaldaron la propuesta. Amodei también añadió demandas concretas a Washington: prohibir la venta de chips Nvidia a China y frenar la “model distillation”.
Reacción política y empresarial
El plan fue recibido con escepticismo en Washington. El congresista Mike Johnson advirtió que podría “sofocar la innovación” y permitir que China tome la delantera. El expresidente Trump, por su parte, mantuvo su postura de liderazgo tecnológico.
Sam Altman reveló en una entrevista con Fortune que OpenAI no buscará una salida a bolsa el año que viene, argumentando que la incertidumbre regulatoria afecta la valoración de los inversores.
¿Regulación o captura?
El plan se percibe como una forma de regulatory capture: las empresas definen las reglas que luego los reguladores adoptan a su favor. La propuesta, al permitir una tregua regulatoria, evita la competencia feroz y abre la puerta a un mayor control corporativo.
Perspectiva técnica
Desde el punto de vista operativo, la idea de evaluadores incrustados implica la incorporación de un módulo de seguridad dentro de cada pipeline de entrenamiento. Este módulo debe ser capaz de:
- Analizar los datos de entrenamiento por contenido sensible.
- Simular ataques de alineación y reportar desviaciones.
- Generar métricas de cumplimiento que puedan ser auditable por terceros.
El desafío es que la definición de seguridad y alineación es subjetiva y evoluciona con el modelo. Además, la coordinación internacional requeriría un marco legal que todavía no existe.
Qué sigue
El consenso entre los tres magnates de IA abre un debate sobre la viabilidad de que las mismas entidades regulen a sí mismas. La comunidad técnica deberá evaluar si la propuesta es realista o simplemente un pacto corporativo.
Los cambios en las políticas de exportación de chips y en la prohibición de distillation también tendrán impacto en el ecosistema de modelos de IA abiertos y en la competencia global.
Para los administradores de sistemas, la pregunta es cómo integrar evaluadores incrustados en los pipelines existentes sin romper la continuidad operativa.
El tiempo dirá si Pace the frontier se traduce en una normativa efectiva o en una ventaja estratégica para los que ya dominan la industria.
