OpenAI dice que el freno de la IA en la empresa es el despliegue, no el modelo
Colin Jarvis, responsable de ingenieria desplegada en cliente de OpenAI, cifra en un 80% los casos en los que el problema no es el modelo sino como llevarlo a produccion.
La mayoria de las empresas que se atascan con la IA no estan esperando un modelo mejor: estan atascadas en desplegarlo. Esa es la tesis de Colin Jarvis, responsable de ingenieria desplegada en cliente (forward deployed engineering) de OpenAI, que situo en un 80% los casos en los que el obstaculo es como llevar la IA a produccion, gobernarla y demostrar que se puede confiar en ella. Solo en el otro 20% el cliente dice que el modelo todavia no da la talla, y esos huecos son cada vez mas estrechos y especializados: una tarea concreta de diseno de semiconductores, no el trabajo de oficina de cada dia. Jarvis lo conto en el HumanX de Amsterdam.
Que hace el equipo de Jarvis
Los FDE empezaron siendo casi todos ingenieros de software, porque construir sobre la API cruda obligaba a escribirlo todo desde cero. Con herramientas como Codex, alrededor del 50% de cada proyecto es trabajo a medida, cuando antes era el 90%. Eso ha movido la contratacion hacia perfiles de dominio: un exbanquero de inversion, cientificos, un ingeniero de verificacion de chips.
Cada encargo arranca con una visita de dos dias. Piden a los responsables de negocio que se olviden de la IA y nombren las palancas mas grandes de su negocio, y trabajan sobre la que salga. En una empresa de semiconductores, los ingenieros dedicaban cerca del 80% de su tiempo a errores de trabajos nocturnos. OpenAI construyo un sistema que localiza la causa raiz, propone un parche y lo aplica tras revision humana, y se extendio de un departamento a toda la compania. El ahorro estimado, segun la propia empresa, es de 40 a 50 millones de dolares al ano. Otros proyectos: un agente que itera disenos de piezas de coche a partir de instrucciones en lenguaje natural para un fabricante europeo, y otro que redacta documentos de ensayos clinicos con un humano siempre al mando.
Por que fracasan los pilotos
Jarvis senala dos errores habituales. Elegir un caso de uso porque parece encajar con la IA y no porque importe. O conseguir que uno funcione en un departamento y dejarlo morir como demo. Las empresas que aciertan miden el exito por uso en produccion, no por pruebas de concepto: un cliente de semiconductores acumula unos 35 casos vivos tras 18 meses, con un equipo central para escalar y grupos pequenos de ingenieros en cada unidad de negocio.
Los FDE no llevan incentivo economico atado al consumo del modelo; se les mide por si el proyecto llega a produccion y mueve una metrica real. Cuando los embeddings de OpenAI se quedaron cortos de velocidad para el buscador de Klarna, Jarvis le dijo a la empresa que usara un modelo open source. "Desde el lado de OpenAI, deberiamos ser siempre temporales", dijo.
Sobre el ritmo, Jarvis respondio a la presion para frenar la IA mientras Sam Altman estaba ese dia en la ONU: sostiene que OpenAI ha demostrado que pausara cuando toque los limites de sus marcos de seguridad, y cree que pauso su run principal de reinforcement learning en septiembre. La entrada que la compania publico esta fechada el 18 de agosto y describe dos semanas de parada en el entrenamiento por RL de sus ultimos modelos, con su mayor run frontier en espera. Las fechas no cuadran del todo y no hay mas detalle.
OpenAI no esta solo en esto. AWS esta gastando 1.000 millones de dolares en el mismo modelo de ingenieros dentro del cliente, y Microsoft lanzo en julio un negocio de despliegue de 2.500 millones. Para quien decide infraestructura, el mensaje es que el cuello de botella y la factura se estan moviendo del modelo al despliegue: gobernanza, integracion y gente que sepa donde apretar dentro de la empresa.
