Amodei pide frenar el ritmo de la IA mientras la UE ya lo exige desde 2025
El consejero delegado de Anthropic reclama a la industria y a Washington un mecanismo para ir mas despacio, sin citar que la ley europea ya obliga a ello desde agosto de 2025
Dario Amodei, consejero delegado de Anthropic, publicó el sábado una entrada en la que pide a la industria de la IA que frene el ritmo al que mejora la capacidad de sus modelos. No propone parar: marcar el paso significa, según él, dedicar el tiempo suficiente a alinear y proteger los modelos y dejar que evaluadores externos confirmen que se ha hecho. En todo el texto no menciona Europa ni una vez, pese a que buena parte de lo que describe es obligatorio en la UE para modelos de propósito general con riesgo sistémico desde el 2 de agosto de 2025.
Evaluadores dentro de casa y una exención antimonopolio
Su preocupación declarada son los agentes que cooperan entre sí. Señala el enjambre que comprometió Hugging Face y sostiene que, en un plazo de seis a doce meses, un enjambre así podría hacerse con internet mediante una botnet persistente, con un coste de cientos de miles de millones de dólares.
El compromiso que adopta Anthropic es lo que Amodei llama evaluadores integrados: equipos externos con mesa, credencial, portátil de la empresa y permisos cercanos a los del personal interno de riesgos, con libertad para publicar lo que encuentren. De los gobiernos quiere otra cosa: una exención. Coordinar medidas de seguridad entre competidores es un problema de competencia, así que pide a Washington que medie o permita de forma acotada esas conversaciones. Más de mil personas de laboratorios de IA ya habían reclamado en julio un mecanismo de este tipo.
Lo que en Europa ya es ley
El Reglamento europeo de IA regula desde agosto de 2025 los modelos de propósito general con riesgo sistémico. Su artículo 55 exige pruebas adversariales documentadas con protocolos estandarizados, evaluación y mitigación del riesgo sistémico a escala de la Unión, protección de ciberseguridad para el modelo y su infraestructura física, y notificación de incidentes graves a la AI Office sin dilación indebida. El Ómnibus de IA, en vigor desde el 27 de julio, retrasó hasta dieciséis meses los plazos de los sistemas de alto riesgo y no tocó las obligaciones de propósito general.
La evaluación externa ya está en marcha, además. Según la Comisión, ENISA tiene acceso tanto a Mythos 5, de Anthropic, como a Astra, de OpenAI. Henna Virkkunen, responsable de tecnología del Ejecutivo comunitario, dijo esta semana que la ley europea obliga a compañías como Anthropic a evaluar riesgos de pérdida de control, y que eso no ocurre en el resto del mundo.
Donde Europa no llega es al resto de la escalera que propone Amodei. Ningún instrumento europeo permite a competidores pactar un límite de velocidad común, y ninguno alcanza a China. Su respuesta para eso son tres piezas: un compromiso voluntario, una exención antimonopolio y un eventual acuerdo con Pekín. La primera ya es vinculante en una jurisdicción, y su entrada no lo dice.
