OpenBMB libera MiniCPM5-2B: 2,52B parámetros, 131K de contexto y Apache-2.0
El modelo denso de OpenBMB y ModelBest apunta a ejecución en dispositivo y promedia 53,9 puntos en 34 benchmarks, según el propio proyecto.
OpenBMB y ModelBest han liberado MiniCPM5-2B, un modelo denso de 2.520 millones de parámetros con licencia Apache-2.0 y una ventana de contexto de 131.000 tokens. Está pensado para ejecutarse en dispositivo y, según sus responsables, iguala o supera a algunos modelos abiertos de 4.000 millones de parámetros en tareas de programación, uso de herramientas y contexto largo.
El dato que más se repite en el anuncio es el promedio de 53,9 puntos sobre 34 benchmarks. Es una cifra agregada, y conviene tratarla como lo que es: la que da el propio proyecto, sin verificación independiente por ahora. Nadie ha publicado todavía resultados de terceros ni comparaciones en un leaderboard neutral.
Un 2B que no lo es del todo
El nombre engaña un poco. Se llama 2B, pero son 2.520 millones de parámetros, no 2.000. Y es denso: no hay mezcla de expertos, así que todo el peso se activa en cada token. Eso simplifica el despliegue, porque no hay enrutado que ajustar ni expertos que repartir entre GPUs, pero también marca el techo de lo que se puede rascar en memoria y latencia.
La licencia Apache-2.0 es la parte más práctica del lanzamiento. Permite uso comercial sin las cláusulas de escalado que arrastran otros modelos abiertos, y eso le quita trabajo al departamento legal cuando alguien quiere meterlo dentro de un producto.
El contexto de 131K en un modelo de este tamaño es lo que más llama la atención sobre el papel. En la práctica, mantener esa ventana llena en local exige mucha memoria, y el anuncio no detalla cuánta VRAM hace falta, ni qué cuantizaciones hay publicadas, ni con qué runtimes está probado. Son justo los datos que necesita quien tenga que decidir si lo mete en un portátil o en un equipo de borde.
Queda por ver si los números aguantan cuando alguien independiente los reproduzca. Mientras tanto, el modelo ya está descargable y la licencia no pone trabas, así que la prueba sale barata.
