Desert Ant Labs lanza modelos on‑device de bajo coste y alta velocidad
La startup europea presenta 18 modelos de audio, visión y texto que funcionan en dispositivos móviles sin consumo de tokens ni costes de inferencia.
Lanzamiento de Desert Ant Labs
Desert Ant Labs ha abierto su primera línea de modelos on‑device. Dieciocho modelos están disponibles hoy: doce en versión estable y seis en beta. Cada uno se ejecuta en milliseconds y no requiere conexión a la nube. Los modelos están diseñados para dispositivos con hardware modesto, como un teléfono de cinco años de antigüedad, y prometen rendimiento superior al de las APIs de IA que la mayoría de los desarrolladores ya paga.
Qué ofrecen
- Voz – transcribe 10 min de audio en dos segundos en un iPhone, 4.7 × más rápido que Whisper. Incluye tiempos de inicio y fin por palabra.
- Clear – mejora audio de 5 min a calidad de estudio en un segundo, con un modelo de 9 MB.
- Redact – anonimiza nombres, direcciones y números de tarjeta en tiempo real en 27 idiomas, con un modelo de 12 MB.
- Tongue – identifica 84 idiomas a partir de tres palabras con un modelo de 2 MB.
- Clips – convierte 10 min de video en doce clips en 5 s, 10 × más rápido y con 470 × menos energía que Claude Sonnet.
Los modelos son gratuitos hasta 100 k dispositivos activos por mes, sin tokens ni login. Los datos permanecen localmente, alineados con la normativa europea sobre soberanía de datos.
Integración sencilla
La compañía ofrece un SDK único que cubre Swift, Kotlin y JavaScript. Los modelos se pueden desplegar con unas líneas de código, sin necesidad de servidores intermedios. La documentación y los benchmarks completos están en https://desertant.com/models y en el repositorio oficial de GitHub.
Por qué importa
La industria de IA se ha centrado en grandes modelos como LLMs, pero la mayoría de llamadas a la nube son tareas de baja complejidad que podrían resolverse localmente. NVIDIA estima que el 40‑70 % de las llamadas a un modelo grande podrían sustituirse por modelos especializados. Con Desert Ant Labs, el coste de inferencia se elimina, lo que permite ejecutar funciones en cada interacción del usuario y evita la latencia de ida‑y‑vuelta.
Futuro
Detail, la app de vídeo de la compañía, planea lanzar la versión 6 con todas las APIs reemplazadas por los modelos on‑device, reduciendo costes de infraestructura en cientos de millones de dólares. La estrategia apunta a un ecosistema de “pequeños cerebros” que gestionen tareas rutinarias y liberen recursos para funcionalidades más complejas.
Para más detalles sobre el repositorio y la CLI, visita https://github.com/Desert-Ant-Labs y https://github.com/Desert-Ant-Labs/desert-ant-cli.
