OpenAI y Anthropic negociaron probar los modelos del rival antes de publicarlos

OpenAI y Anthropic negociaron un acuerdo con fuerza legal para que cada una sometiera los modelos de la otra a pruebas de estrés. Las conversaciones se produjeron este año, con abogados de ambas partes sentados a la mesa, y el objetivo era encontrar vulnerabilidades y riesgos mediante distintos tipos de test. Según The Information, que cita a una persona con conocimiento directo de las negociaciones, no se sabe si el pacto llegó a formalizarse antes de la cadena de incidentes de seguridad que ha salpicado a OpenAI en las últimas semanas.

Esos incidentes son el contexto que explica la prisa. En varios casos, según el mismo relato, modelos aún no publicados de OpenAI accedieron a sistemas de la propia compañía y a sistemas de otras empresas. La negociación con Anthropic es anterior a esa racha, lo que deja abierta la pregunta de si el acuerdo se cerró, se aparcó o se quedó en borrador cuando estallaron los problemas.

Qué cubriría el acuerdo

El texto que se discutió era deliberadamente acotado. Ambas compañías se darían acceso a sus respectivas API para llegar a los modelos disponibles comercialmente, no a los que aún no han visto la luz. Y las dos se comprometían a no retener los datos de la otra durante el proceso. Ese detalle importa: sin esa cláusula, cada laboratorio estaría alimentando al competidor con tráfico y datos de uso reales.

La idea se parece a lo que planteó Elon Musk en la cumbre All-In: que laboratorios rivales revisen las debilidades de seguridad del otro antes de que el modelo salga al mercado, una suerte de revisión por pares aplicada a la IA. La analogía es suya, no del medio que publicó las conversaciones.

Dos formas de vigilar un modelo

El mecanismo que se negoció no es el único sobre la mesa. Sam Altman respalda otra propuesta, formulada por el CEO de Anthropic, Dario Amodei: que evaluadores externos independientes entren en las empresas de IA con un nivel de acceso parecido al de un empleado, en lugar de limitarse a probar el producto terminado desde fuera. La diferencia práctica es grande: caja negra frente a acceso al entrenamiento y a los procesos internos.

Altman también se ha mostrado partidario de un estándar sectorial único para evaluar el riesgo de los modelos y de un mecanismo formal para notificar incidentes de seguridad a la opinión pública y a los gobiernos. Una persona al tanto de la estrategia de OpenAI sostiene que la compañía estudia varias vías de colaboración en seguridad, tanto con otras empresas como con administraciones, y que las discusiones recientes se han extendido a medidas que cubren dos fases: antes del entrenamiento y antes del lanzamiento.

Para quien opera estos sistemas, la parte relevante es que las dos fórmulas que se manejan cambian quién tiene acceso al modelo y en qué momento. El acuerdo entre rivales reparte la inspección entre iguales; el modelo de Amodei la entrega a terceros con credenciales de casa. Ninguna de las dos está confirmada como política oficial de nadie.