El coste de los modelos de IA empuja a las startups hacia los pesos abiertos
Harvey pasó de un margen bruto del 50% a menos 50% por la factura de los modelos que alquilaba y lo recuperó al entrenar sobre pesos abiertos. Abridge, Decagon y Ramp van en la misma dirección.
Harvey, la startup de IA para el sector legal valorada en 15.600 millones de dólares, vio cómo su margen bruto caía del 50% a menos 50% entre el arranque del año y junio, según Bloomberg. La causa no fue el producto: fue la factura de los modelos que alquilaba. La compañía volvió a terreno positivo después de publicar en agosto su primer modelo propio, post-entrenado sobre Kimi K3, del laboratorio chino Moonshot. No es un caso aislado.
El detonante fue el consumo. El uso de tokens se multiplicó por veinte este año, según la empresa. Y tanto OpenAI como Anthropic cobran ya a las empresas el uso del modelo por encima de la cuota base de suscripción. Harvey no ha comentado sus cifras concretas, y las que se conocen salen de una persona al tanto del asunto, no de la compañía.
De alquilar a entrenar
Abridge está construyendo un modelo clínico sobre los pesos abiertos de Nvidia. Decagon enruta ya el 80% de las consultas de sus clientes por modelos propios. Ramp levantó 750 millones de dólares en junio y se plantea entrenar por primera vez. "Hace un año no tenía ningún sentido", dijo su co-consejero delegado Karim Atiyeh. "Ahora empieza a tener mucho más sentido".
Anthropic lo ha notado. En un foro con inversores celebrado en sus oficinas mostró una diapositiva sobre startups que entrenan sus propios modelos, con el recordatorio de que Harvey sigue necesitando Opus para sus tareas más difíciles. Arthur Mensch, de Mistral, lleva desde julio defendiendo que los modelos cerrados dan al proveedor una influencia enorme, y puso como ejemplo el corte de Anthropic a Windsurf mientras desarrollaba Claude Code.
En Europa el espejo es Legora, en Estocolmo: 100 millones de dólares de ingresos en 18 meses, más de 1.200 despachos atendidos y ni una palabra sobre qué modelos ejecuta por debajo.
Tampoco hay consenso sobre si el modelo propio es la respuesta. "Tener modelo propio o no es la pregunta equivocada", dijo Matt Kraning, socio de Menlo Ventures. "En la mayoría de los casos es puro cosplay".
Lo que hay detrás es una decisión de arquitectura: alquilar capacidad a un proveedor cerrado o asumir el coste de post-entrenar pesos abiertos y servirlos uno mismo. La legislación europea de datos da derecho a cambiar de proveedor, pero cubre al cliente que se marcha, no al proveedor que le corta el grifo. La dependencia se mide el día en que alguien decide dejar de servirte.
