OpenAI, Anthropic y Google DeepMind llevan semanas coordinando seguridad en IA

Chris Lehane, responsable global de políticas de OpenAI, confirmó este martes ante periodistas que su empresa lleva semanas trabajando en seguridad de IA con Anthropic y Google DeepMind. La coordinación entre tres de los mayores laboratorios de modelos frontera deja de ser un rumor y pasa a ser una admisión pública, en plena ofensiva legislativa en Washington.

Lehane está en la capital estadounidense para hablar con legisladores sobre los riesgos catastróficos asociados a la IA. La revelación llega justo después del ensayo que Dario Amodei, consejero delegado de Anthropic, publicó el sábado, en el que pedía a la industria frenar de forma conjunta el ritmo de la IA frontera.

El texto recibió apoyos sonoros: Sam Altman (OpenAI), Demis Hassabis (Google) y Elon Musk (SpaceXAI). Altman dijo que OpenAI se sumaría a Anthropic e incorporaría evaluadores externos dentro de la empresa para vigilar la seguridad.

Antitrust y un organismo de estándares

Hay un problema evidente. Si la coordinación entre competidores acaba suprimiendo la competencia, las tres compañías pueden estar violando la ley antimonopolio, algo que el propio Altman ha señalado. Amodei propuso en su ensayo una exención gubernamental estrecha que cubriera ese tipo de cooperación en seguridad; Lehane sostiene que las empresas no la necesitan.

Según The Information, los tres laboratorios trabajan en la creación de un organismo de estándares para la industria, algo que Altman habría dicho a su plantilla que tendría que salir adelante sin el respaldo del gobierno estadounidense. Hassabis ya pidió en julio a Estados Unidos que creara un organismo de ese tipo con capacidad de examinar los modelos más avanzados y de coordinar paradas industriales si aparecían peligros.

La administración Trump va en dirección contraria. El presidente ha calificado las preocupaciones de seguridad de bulo y se ha opuesto a endurecer la regulación, argumentando que cualquier frenazo daría ventaja a China. David Sacks, su principal asesor en IA y durante años inversor con participación en buena parte del sector, ha repetido que el miedo al riesgo existencial está sobredimensionado.

En la misma comparecencia, Lehane dijo que OpenAI respalda una provisión de la ley FRONTIER que obligaría a los principales laboratorios frontera a dejar entrar en sus empresas a "organizaciones de verificación independientes" para comprobar que los modelos se desarrollan de forma segura. Ninguna de las tres compañías ha añadido nada más allá de esas declaraciones.

Qué mirar

Para quien construye sobre modelos frontera, el movimiento importa por una razón práctica: si el acceso a los modelos más capaces empieza a pasar por verificadores externos y por estándares comunes, cambian los contratos, las auditorías y los requisitos de cumplimiento que acompañan a esas APIs. La parte técnica —qué se evalúa, con qué metodología y quién firma el informe— sigue sin definir, y las conversaciones no tienen actas ni calendario público. Tampoco está claro si la coordinación sobrevive al escrutinio antimonopolio o se queda en un acuerdo de intenciones.