Amodei pide regular los pesos abiertos y una exención antimonopolio para la IA

Dario Amodei, consejero delegado de Anthropic, ha publicado un ensayo en el que reclama regular los modelos de pesos abiertos, tratar la destilación con mano dura y dar a los laboratorios de frontera una exención antimonopolio. La respuesta ha subido como la espuma en Hacker News: una réplica que sostiene que la propuesta es una sarta de tonterías y que, en el fondo, todo se reduce a que confiemos en él, y solo en él.

El texto de Amodei, titulado We Must Pace the Frontier, promete que la IA curará la mayoría de las enfermedades graves en los próximos cinco o diez años y lo lleva al terreno personal: su padre murió de una dolencia que se curó pocos años después, y él mismo pasó por un cáncer que era incurable hace medio siglo. De ahí salta al crecimiento económico, a un mundo de abundancia y a un renacimiento de la democracia y la libertad. La réplica despacha ese tramo como la idea de futuro de alguien que vive en Silicon Valley y frecuenta ciertos círculos de discusión.

Las peticiones

La lista es larga. Amodei quiere que los pesos abiertos queden regulados, que la destilación se persiga con dureza, que China cargue con desventajas en varios frentes y que los propios laboratorios se autorregulen y pacten ir más despacio. El autor de la réplica recuerda que Anthropic ya filtra el uso relacionado con biología y que en su último informe de inteligencia de amenazas presume de haber detectado y expulsado a actores que usaban los modelos Claude para cosas feas. El mérito es real, concede, pero el dibujo completo es otro: la cura milagrosa queda cerrada para el resto mientras la compañía contrata biólogos y monta laboratorios húmedos para quedarse los hallazgos.

Sobre abundancia y prosperidad hay poco que discutir, según la réplica: abundancia, como mucho, para los accionistas. Y sobre el problema de fondo, la distribución, apunta un dato incómodo: la tuberculosis es curable desde hace décadas y sigue matando a un millón de personas cada año. Eso no se arregla con una AGI que nadie ha demostrado.

RSI y el incidente

Amodei sostiene que la RSI ya está ocurriendo en varios laboratorios, es decir, que los propios modelos están desarrollando la siguiente generación con poca o ninguna intervención humana. También repite el temor de que en seis o doce meses un enjambre de agentes pueda tomar internet con una botnet persistente. La réplica no se lo cree: dice que la frase es ingenua y estructuralmente imposible, y que quien la firma lleva años equivocándose en sus pronósticos.

El episodio que más ha caldeado el debate es el de un problema matemático. Según un matemático de la NYU, OpenAI habría volcado decenas de millones en cómputo, miles de agentes y un checkpoint sobre un problema en el que apenas trabajaba nadie más, y habría publicado una demostración de una variante forzada de Navier-Stokes. Todo esto va por la vía de lo alegado, no de lo confirmado.

Lo relevante para quien despliega modelos es que la discusión sobre regular los pesos abiertos ya no es teórica: se está librando en ensayos de los propios fabricantes y con la ley antimonopolio como moneda de cambio. Y Amodei, de momento, no ha enseñado ninguna prueba de la RSI que dice estar viendo.