El CEO de Y Combinator quiere que las labs abiertas de EE. UU. destilen modelos frontera

El consejero delegado de Y Combinator, Garry Tan, quiere que los reguladores dejen en paz la destilación de modelos frontera y que, además, las labs estadounidenses de pesos abiertos puedan hacer lo que se reprocha a las chinas. Lo dijo en una entrevista con CNBC esta semana y lo amplió después: si los términos de servicio de los modelos cerrados impiden aprender de sus salidas, el ecosistema abierto se queda sin materia prima.

Aclaración de partida: destilar es una técnica legítima y habitual. Consiste en lanzar muchas peticiones contra un modelo para observar cómo razona y usar esas respuestas para entrenar otro. Lo que Anthropic denunció en su segundo informe es una variante que considera ilícita, con labs chinas ocultando su identidad, recurriendo a credenciales robadas y a fraude para destilar sin permiso. Su consejero delegado, Dario Amodei, ya había pedido públicamente a los reguladores que actúen contra esa práctica.

Dos argumentos y una advertencia

Tan no está pidiendo que se robe nada. Su postura es que las labs locales entren por la puerta principal, y su razonamiento tiene dos patas. La primera: le parece un abuso que una lab dicte qué puede hacer un cliente con lo que su modelo le devuelve por API. «Controlar lo que usuarios y clientes hacen con las llamadas a modelos de pesos cerrados resulta restrictivo, y aquí el gobierno tiene un papel: normalizar que el acceso a una inteligencia entrenada con datos de acceso público sea también una forma de bien público y no algo encerrado detrás de términos de servicio restrictivos», declaró.

La segunda: las labs propietarias tampoco pidieron permiso cuando engulleron todo el conocimiento humano que pudieron, material con derechos de autor incluido, para entrenar sus modelos.

En la entrevista resumió su receta para los reguladores en dos palabras: no hacer nada. También marcó dónde pone el límite. Las labs frontera tienen que seguir siendo un negocio financiable, porque son las que empujan la técnica, y a la vez los pesos abiertos deben dar libertad y acceso.

Su escenario catastrófico no es un modelo que se escape, sino la concentración. «El escenario de pesadilla, el del doomer, es que solo quede una empresa», dijo. Una compañía con el mejor acceso a capital y a los mejores investigadores, que se despega y se queda sola con todo el poder.

De fondo hay una discusión abierta: si la destilación de modelos frontera se persigue o se tolera. Anthropic presiona para que se persiga; Y Combinator, el acelerador de startups más prolífico de Silicon Valley, presiona en sentido contrario. Para quien construye sobre pesos abiertos, la respuesta cambia qué puede entrenar y bajo qué términos de servicio.