Reef Infra propone reescribir prompts con las trazas fallidas y validar el cambio aparte

Una traza que muestra al modelo peleándose con una instrucción es motivo suficiente para editar el prompt. No es, en cambio, prueba de que ese prompt editado vaya a funcionar mejor en otro sitio. La receta GEPA de Reef Infra conecta esas dos tareas que normalmente van sueltas: la reescritura y la comprobación.

El método mantiene un archivo de candidatos de prompt. De ahí selecciona un padre y reflexiona sobre las trazas que ese padre produjo en un minibatch de entrenamiento para reescribir un único componente del texto. El hijo no pasa a una validación completa hasta que supera al padre en ese minibatch. El candidato que finalmente se sirve se elige por puntuación media en validación.

El modelo que ejecuta no se toca

Lo relevante del diseño es qué queda fijo y qué se mueve. El modelo que hace la tarea no cambia; el que propone cambios es un modelo de reflexión que solo trabaja sobre el texto que rodea a la tarea. Eso acota el alcance: el método sirve cuando el problema sospechado es una regla contradictoria o una instrucción de habilidad que no ayuda, no cuando falta capacidad en los pesos.

El repositorio incluye además un ejemplo AIME acotado, con la partición de entrenamiento, validación y prueba fijada y un presupuesto de búsqueda cerrado. La evaluación se hace sobre el conjunto reservado, aparte de la elección del candidato por resultados de validación. Esa separación no es un detalle de estilo: si el optimizador tiene muchas oportunidades de probar redacciones, alguna encontrará la forma de halagar a su propio evaluador. Mantener un conjunto que no participa en la selección evita que el resultado sea un artefacto.

Conviene ser explícito con lo que el ejemplo no demuestra. AIME es un banco de problemas de matemáticas con un scorer claro; un flujo de trabajo de código o de soporte necesitaría su propio conjunto de tareas y su propio scorer, y el resultado en AIME no garantiza que ahí haya ganancia.

Lo reutilizable, en cualquier caso, es el proceso: dejar que la traza sugiera qué cambiar y dejar que otras tareas decidan si el cambio viaja. Es una disciplina menos vistosa que retocar el prompt a ojo contra el caso que acaba de fallar, pero es la que separa una edición con fundamento de una corazonada.