Baseten lanza con Hugging Face y Goodfire un estándar de seguridad para modelos abiertos
Base Labs, el brazo de investigación de Baseten, quiere publicar métodos de entrenamiento y monitorización para pesos abiertos, en plena expansión de la abliteration, que ya afecta a más de 6.000 modelos en Hugging Face.
Baseten quiere poner orden en la seguridad de los modelos de pesos abiertos. A través de su brazo de investigación, Base Labs, la compañía ha anunciado una alianza con Hugging Face y Goodfire AI para construir infraestructura de evaluación y monitorización de estos modelos, y para publicar abiertamente los métodos que use con ese fin. Lo presentan como un estándar integrado en cómo se entrenan y se despliegan los modelos, no como un parche que se pega después.
El anuncio llega en plena discusión sobre los pesos abiertos, y hay un dato que explica la prisa: Hugging Face aloja ya más de 6.000 modelos a los que se les han quitado las salvaguardas mediante abliteration, la técnica que recorta por cirugía las capas de rechazo del modelo. Aplicarla no requiere ser investigador, y de ahí el debate de fondo sobre si publicar pesos tal cual sigue siendo sostenible.
Sin detalles técnicos por ahora
Ninguna de las tres compañías ha explicado cómo funcionará la alianza por dentro. Goodfire, especializada en abrir la caja negra de los modelos para explicar cómo toman decisiones, es la candidata más obvia para la parte de "integrado en el entrenamiento". En una respuesta al anuncio, la empresa resumió su postura: la seguridad debe venir construida dentro de los modelos abiertos y la deben aportar quienes los sirven.
Baseten lo justifica en términos de transparencia. En X, la compañía defendió que la apertura es una ventaja para la seguridad de la IA porque da más visibilidad sobre el comportamiento de los modelos y más medios para convertir la investigación en controles accionables que el código cerrado.
El respaldo económico detrás del proyecto ayuda a entender por qué se lo pueden permitir. Baseten, proveedor de inferencia, cerró en junio una ronda Serie F de 1.500 millones de dólares que dejó su valoración en 13.000 millones. Goodfire no va corta: 150 millones en una Serie B liderada por B Capital. Las cifras son de las propias empresas.
Baseten también ha abierto la puerta a que otros desarrolladores contribuyan al marco, con el argumento de que se trata de construir un ecosistema de modelos abiertos seguros y accesibles para todos.
Lo que queda por ver es si esto acaba en algo que un equipo pueda aplicar de verdad: especificaciones, herramientas ejecutables, un pipeline que se pueda meter en integración continua. De momento hay una alianza, tres nombres conocidos y un problema real y cuantificado en el hub de Hugging Face. La parte fácil, el anuncio, ya está hecha; la difícil es que un "estándar" lo adopte alguien más que quienes lo firman.
