OpenAI crea un panel de matemáticos para decidir cómo anuncia sus resultados

OpenAI ha anunciado la creación de un panel independiente de matemáticos para que le aconseje sobre cómo presenta y publica los resultados matemáticos que obtienen sus modelos. El grupo se llama Advisory Group on Mathematics and Artificial Intelligence (AGMAI), tiene nueve miembros y lo acoge el Institute for Advanced Study (IAS) de Princeton, Nueva Jersey. Llega después de que una racha de resultados matemáticos espectaculares se le convirtiera en una crisis de reputación.

Los nombres salen de Stanford, Harvard, Oxford y Cambridge, entre otras instituciones, y en la lista hay varios premios Fields y becas MacArthur. La compañía dice que el grupo será independiente: podrá dar consejo que nadie le ha pedido, pronunciarse en público sobre el impacto de la IA en las matemáticas y hacer públicas sus recomendaciones. También tendrá acceso temprano a la investigación de OpenAI para poder evaluarla. Sus miembros no cobran de la compañía y el grupo puede cambiar su composición cuando quiera, según el anuncio.

Para hacer su trabajo, AGMAI necesita algo que OpenAI no ha detallado: qué capacidad real tiene de influir. En su web el grupo explica que nació después de que OpenAI contactara a algunos de sus miembros para montar un consejo asesor externo y que, tras hablarlo, los matemáticos decidieron crear una organización independiente e invitar a más gente. No se sabe a quién contactó primero la empresa ni cómo se eligió al resto.

"Parece una torre de marfil"

Simon Machado, investigador en el ETH de Zúrich, ha dicho que todo el montaje le parece "envuelto en misterio" y se pregunta cómo se seleccionó a los nueve. Francesco Fournier-Facio, que llega como profesor de matemáticas a la Heriot-Watt University de Escocia, se declara "ambivalente": más contacto con matemáticos "solo puede mejorar las cosas", pero duda que el grupo represente a la comunidad cuyo trabajo está siendo zarandeado por la carrera de OpenAI por coleccionar trofeos matemáticos. "Parece una torre de marfil", ha declarado. Machado va en la misma línea: "Son matemáticos increíbles, pero no sé si son las personas que quiero que me representen en cuestiones más políticas".

Martin Hairer, uno de los miembros y profesor en el Imperial College de Londres y en la EPFL, ha respondido en su blog a lo que llama un "torrente de desinformación". Sostiene que el grupo es "genuinamente independiente de OpenAI y de cualquier otro de los llamados laboratorios frontera", que no hay más acuerdos restrictivos que los de confidencialidad evidentes, que nadie cobra y que el soporte técnico lo pone el IAS. Y añade que no tiene sentido que la comunidad adopte "una postura de avestruz" y se niegue a hablar con los laboratorios por principio. "Nuestro objetivo principal es representar lo mejor que podamos los intereses de la comunidad matemática", escribió.

Queda por ver si ese objetivo se traduce en algo. El panel puede publicar lo que quiera, pero OpenAI no ha explicado qué hará con esos consejos ni si cambiará su forma de anunciar resultados cuando el grupo le diga que se ha pasado de frenada. La lista tampoco es una muestra de la comunidad: nueve personas muy especializadas tienen que evaluar resultados de campos que no son el suyo.