Un veterano del software carga contra el relato de que la IA ya ha resuelto programar

Alex Ewerlöf lleva cuatro años construyendo con modelos de lenguaje y sistemas basados en ellos, fue de los primeros en adoptar herramientas de programación asistidas por LLM y se escribió su propio harness. Ahora publica un ensayo en el que ataca el relato de que programar ya está resuelto y de que a la ingeniería solo le queda el gusto. Su tesis: quien afirma eso no entiende cómo funciona el software.

El argumento central no es que los LLM no sirvan, sino que generan código sin asumir consecuencias. Ewerlöf distingue tres tipos de producto que no exigen leer el código: el software personal, la prueba de concepto y la IA empleada como arma, es decir, apuntar el modelo a un objetivo asumiendo el riesgo a propósito. Los tres comparten una tolerancia alta al fallo.

El resto del mercado, el que paga sueldos de ingenieros, no la tiene. Sanidad, finanzas, automoción, defensa, plantas de energía, aviación, manufactura: donde un error cuesta dinero, vidas o un juzgado hace falta alguien a quien pedir cuentas. Un modelo no puede rendirlas. "No se puede castigar a la IA, por tanto nunca se la puede hacer responsable", escribe. Lo peor que se le puede hacer es desenchufarla.

El cuello de botella es la lógica

Mantiene que programar es de las últimas áreas que esta generación de modelos va a ocupar, y no de las primeras. El código es lógica y el compilador no negocia. Lo que funciona hoy es un bucle que devuelve los errores de sintaxis y de ejecución al modelo hasta que la mayoría se resuelven o quedan escondidos. Pero la misma máquina que falla al contar las erres de "Raspberry" arrastra esas lagunas al código. Los LLM son estocásticos, y cuanto más grande es el contexto que se les da, menos precisos son. Añade que la curva de mejora es una S con retorno decreciente: pagar por un modelo más caro no da un salto proporcional de productividad.

Claude Code como muestra

Señala a Claude Code, la herramienta de Anthropic, como la encarnación de esa ideología, y enumera fallos concretos: ejecutar la herramienta devuelve el menú de ayuda de Bun —hay incidencia abierta en GitHub—, el instalador del binario se borra a sí mismo después de instalarse, se cobra uso extra pese a haber capacidad en el plan y aparecen falsos errores de límite de tasa. Ironiza con que la página de estado del servicio muestra que el naranja es el nuevo verde. Menciona además el prompt de sistema filtrado y apunta que Anthropic controla a la vez el modelo, el harness y el prompt.

Cierra con un motivo más prosaico que el debate: los servicios que paga —Google, GitHub— se degradan con errores evitables cuando se prima la velocidad sobre la fiabilidad y la rendición de cuentas. El texto defiende que los LLM son útiles como herramienta y que mejoran, pero que extrapolar eso a toda una profesión exige no haber mirado el código de cerca en mucho tiempo.