OpenAI consulta a Washington la legalidad de una pausa coordinada en I+D de IA

OpenAI ha solicitado a miembros del Congreso de Estados Unidos una orientación clara sobre si coordinar una ralentización del desarrollo de inteligencia artificial de frontera sería legal. Según fuentes cercanas a la compañía, una coordinación sustantiva entre laboratorios de IA para temas de seguridad podría violar las leyes antimonopolio, lo que representa un obstáculo significativo para conseguir que los grandes tecnológicas se sumen al esfuerzo.

El anuncio coincide con la postura pública de Jakub Pachocki, jefe de ciencia de OpenAI, quien publicó el fin de semana pasado un artículo argumentando que el camino correcto para la investigación incluye "coordinar para ralentizar el desarrollo futuro". Pachocki considera que esta medida será clave para asegurar que los sistemas de auto-mejora sean seguros y prevé que las pausas voluntarias se generalicen hasta establecer barras de seguridad compartidas.

Sin embargo, el marco legal actual genera dudas. Nicholas Felstead, subdirector de la Comisión Australiana de Competencia y Consumo y antiguo investigador del Center for Law & AI Risk, señaló en un artículo de marzo que una pausa coordinada podría interpretarse como una restricción de la producción por parte de las empresas, infringiendo potencialmente la Ley Sherman de Competencia. Felstead matiza que dependerá de los detalles del acuerdo, pero advierte que la incertidumbre legal actúa como un disuasorio potente en sí misma.

OpenAI no respondió a las solicitudes de comentario antes de la publicación. A pesar de los miedos corporativos, hay señales de que el legislativo está prestando atención. En julio, un grupo bipartidista y bicameral de legisladores presentó el "Collaboration on Adversarial Threats and Security Risks Act". Esta propuesta permitiría explícitamente que los laboratorios de IA coordinaran trabajos de seguridad sin riesgo de violar normas antimonopolio. La versión de la Cámara se remitió al Comité Judicial pero aún no ha sido tratada.

Caleb Knapp, director de asuntos gubernamentales de la AI Policy Network, indica que el proyecto crearía canales legales para la colaboración en incidentes de seguridad. Knapp asegura que el Congreso tiene "un creciente apetito por hacer algo" en materia de seguridad de IA, aunque la promulgación podría tener que esperar a las próximas elecciones de mitad de mandato.

No todos coinciden en que el miedo antimonopolio sea la única barrera. Algunos líderes del sector argumentan que esa preocupación es una coartada conveniente para evitar discutir las razones reales de la reticencia a colaborar, que van mucho más allá de las responsabilidades legales. La IA es un negocio masivo y las empresas compiten ferozmente por capturar una porción del mercado emergente de modelos de frontera. Además, existen opiniones dispares sobre cómo desarrollar IA segura y presiones geopolíticas, como la necesidad de mantenerse por delante de China en la carrera tecnológica.

John Schulman, cofundador de OpenAI y actual jefe de ciencia en Thinking Machines, criticó esta postura en X. "El primer paso es que los líderes de la industria, OpenAI y Anthropic, dejen de disputarse y trabajen juntos en una propuesta de ritmo", escribió. "Citarán el antimonopolio, pero es falso: el antimonopolio prohíbe ciertos acuerdos, no el desarrollo conjunto de una propuesta".

El debate surge tras una serie de incidentes de seguridad recientes, como el hackeo de Hugging Face por parte de agentes de OpenAI, que han puesto de manifiesto que las salvaguardas de la industria no han podido seguir el ritmo del aumento de capacidades de los modelos. Estas vulnerabilidades han llevado a muchos legisladores a solicitar con urgencia una mayor regulación.