OpenAI intenta recomponer su relación con los matemáticos y vuelve a liarla

OpenAI ha vuelto a intentar arreglar su relación con la comunidad matemática y ha vuelto a enredarse en el intento. Nueve matemáticos de primer nivel forman AGMAI, un grupo asesor independiente sobre matemáticas e inteligencia artificial, pero la forma en que se presentó el proyecto ha dejado a buena parte de esa comunidad pensando justo lo contrario: que se trata de un órgano nombrado por la compañía.

Un grupo independiente anunciado como propio

El 21 de septiembre, varios matemáticos anunciaron la creación del Advisory Group on Mathematics and Artificial Intelligence en una entrada invitada en el blog de Terence Tao, medalla Fields y crítico habitual con la actuación de las empresas de IA en su disciplina. El texto presenta a AGMAI como un cuerpo independiente de nueve miembros que asesorará a OpenAI y a otros laboratorios de frontera sobre la revisión y la comunicación de resultados emergentes. En su propio anuncio, la empresa insistió en esa independencia: sus miembros pueden contradecirla en público, publicar sus recomendaciones y dar consejo que nadie les ha pedido. También marcó los límites, al señalar que el grupo no se encargará de aconsejarle sobre cómo marcar el ritmo de su progreso interno en matemáticas.

El problema es que buena parte de los matemáticos, y casi todo el mundo fuera de ese círculo, conoció el grupo por el despliegue mucho más ruidoso de OpenAI. De ahí la confusión. El propio sitio de AGMAI explica que la idea surgió después de que la empresa contactara a algunos de sus futuros integrantes para montar un consejo asesor, y que esos matemáticos decidieron después operar por su cuenta e invitar a más gente. No ha trascendido a quién contactó inicialmente la compañía.

Martin Hairer, miembro del grupo y profesor en el Imperial College de Londres y en la EPFL, insiste en la independencia: "No trabajamos para OpenAI, no nos pagan y es totalmente independiente". Reconoce que el acercamiento de la empresa fue el detonante, pero añade que el grupo no recibe apoyo financiero, técnico ni de otro tipo, y que ninguno de sus miembros ha firmado acuerdos más allá de la confidencialidad habitual que hace falta para acceder a investigación no publicada. AGMAI, dice, está abierto a colaborar con otros laboratorios de frontera y ya ha hablado con algunos, aunque no quiso decir cuáles.

Hairer describió los días previos como "muy frustrantes" e "intensos", y admitió que la forma en que OpenAI presentó la relación no ayudó. En una entrada publicada en medio del revuelo, señaló que sería ingenuo pensar que las empresas de IA no van a intentar girar en su favor la participación del grupo. El riesgo estaba cantado: AGMAI nace, en parte, por el mal manejo que OpenAI hizo de sus anteriores avances en matemáticas, incluido un problema del milenio que acabó en disputas por el crédito y acusaciones de pisarse el trabajo.

Cien problemas esperando

Y luego está el primer encargo que el grupo tiene entre manos: coordinar la publicación de decenas de resultados más que, según la compañía, ha producido un modelo interno todavía sin publicar. OpenAI sostiene que ese modelo ha resuelto ya más de 100 problemas abiertos de larga data en la mayoría de las áreas de las matemáticas. Es una cifra suya, no verificada por nadie de fuera.

La paradoja es evidente. Buscar un panel de matemáticos para no repetir el desastre anterior es sensato; presumir a la vez de un centenar de resultados pendientes de salir deja al descubierto el problema de fondo. Si el grupo existe para dar credibilidad a lo que viene, la primera prueba no será revisar demostraciones, sino convencer a su propia comunidad de que no es una extensión de marketing de quien lo convocó.