Zaylo quiere convertir tu hardware en un servidor de IA local

LoftyTech Labs ha presentado Zaylo, un servidor de IA local que se instala sobre el hardware que ya tienes y expone los modelos a través de una API compatible con OpenAI. El proyecto se anuncia como open source y su código estaría en GitHub, según la entrada de presentación firmada por sus autores.

Qué dice que hace

Las funciones que enumera la nota son seis: detección de hardware para saber con qué recursos cuenta la máquina, recomendación de modelos que encajen en esos recursos, inferencia local, la citada API compatible con OpenAI para integrar los modelos desde aplicaciones que ya hablan ese dialecto, acceso a través de la red y un panel de monitorización para gestionar todo el entorno desde un único sitio.

El argumento es el de siempre en este terreno: montar inferencia en casa o en un servidor propio obliga a pelear con runtimes, elegir un modelo que quepa en la VRAM disponible, gestionar el ciclo de inferencia y luego publicar una API. Zaylo empaqueta esas piezas en un solo servicio.

Sobre el papel, es lo que ya hacen Ollama, LocalAI, llama.cpp servido con envoltorios o LM Studio en su modo servidor. La diferencia, si existe, está en el detalle.

El detalle es lo que falta

La entrada no dice qué versión es, bajo qué licencia se publica, qué runtime usa por debajo (llama.cpp, vLLM, algo propio), qué formatos de modelo acepta, en qué sistemas operativos corre ni qué requisitos mínimos pide. Tampoco hay benchmarks, ni capturas, ni una demo. El enlace al repositorio que aparece en la nota remite a un marcador de posición, no a una URL funcional, así que no hay forma de comprobar el código sin buscarlo por tu cuenta.

Para quien administra equipos, eso deja la decisión en el aire. Sin licencia no se sabe si se puede usar en producción interna. Sin runtime no se puede estimar rendimiento ni consumo de memoria. Y sin repositorio verificable, la recomendación de modelos y la compatibilidad con la API de OpenAI son promesas, no características.

Queda por ver si el proyecto publica el código de verdad y con qué licencia lo hace. Si el repositorio aparece y trae lo que promete, la propuesta encaja en la misma conversación que el resto del ecosistema de inferencia autohospedada, que es donde de verdad se decide si esto le sirve a alguien.