Homelaber detalla cómo ejecuta su stack de LLM en local por el precio de un ChatGPT
Un usuario de r/selfhosted explica su arquitectura de tres máquinas, el coste mensual y los riesgos ocultos de apostar por modelos locales.
¿Tiene sentido montarse un stack completo de LLM en el homelab? Para un usuario de r/selfhosted, sí: ejecuta todo su pipeline en tres máquinas de su red local con un coste mensual que calcula similar a una suscripción de ChatGPT. La suya no es una comparación de folleto: detrás hay un análisis de propiedad y de riesgos que vale la pena leer con calma.
La arquitectura y el coste
Su red local tiene tres equipos: un host público, una máquina de inferencia con GPU y un hub de desarrollo donde corre Ollama junto a los modelos. El coste mensual total lo estima en el equivalente a una suscripción de ChatGPT, pero sin el contador de tokens. Puede experimentar a lo ancho: cambiar de modelo, probar hasta once enfoques distintos, sin que la factura varíe ni un céntimo.
También hay una razón de permanencia. Los servicios en la nube pueden cambiar precios, límites o desaparecer de un día para otro. Con los modelos en local, el historial y las herramientas se quedan en su estantería, bajo su control.
El riesgo que nadie presupuesta
El autor distingue dos tipos de riesgo. El primero, el del alojamiento gestionado, es el fácil: si el precio sube o el servicio se va, migras. El segundo es más sutil y casi nadie lo contempla: cuando tu apuesta gana y la arquitectura que has diseñado deja de encajar con lo que realmente necesitas. Con agentes y modelos locales, el cambio es constante. En su experiencia, hay que presupuestar una reestructuración cada dos semanas.
Ha documentado el razonamiento en un artículo y en otro con la referencia del stack que usa en su día a día.
¿Merece la pena? Depende de cuánto valores la libertad de experimentar y de controlar tu propio entorno frente a la comodidad de un API gestionado. Pero lo que cuenta este usuario va más allá del coste: la decisión no es solo económica, es arquitectónica. Y la parte que nadie presupuesta es el mantenimiento continuo de un stack que cambia cada pocas semanas.
