Surge el estándar AEF‑1 para evaluadores externos y Anthropic se adelanta con acceso total
El AI Evaluator Forum publica el borrador AEF‑1, que define requisitos de acceso, conflictos de interés y transparencia para auditorías de IA, mientras Anthropic anuncia acceso de tipo "empleado" a sus evaluadores externos.
El AI Evaluator Forum (AEF) ha puesto a disposición el borrador AEF‑1, un conjunto de normas que establece los criterios mínimos para evaluadores de terceros que revisen modelos de IA y sus procesos de entrenamiento. Entre los puntos clave están la exigencia de acceso comparable al de equipos internos de riesgo, la gestión de conflictos de interés, la transparencia de financiación y la obligación de recusar cuando sea necesario.
Anthropic ha sido la primera empresa en comprometerse a cumplir con esos requisitos. La compañía ofrecerá a los evaluadores externos “escritorios en nuestras oficinas, credenciales de acceso y portátiles de la empresa”, además de permisos similares a los de sus equipos internos de evaluación. Este nivel de integración sigue el modelo de supervisores regulatorios que se emplea en la banca, donde auditores externos operan dentro de la organización para garantizar la verificación continua de prácticas de seguridad.
El estándar AEF‑1 surge en medio de un debate creciente sobre la necesidad de frenar el ritmo de desarrollo de IA ("pacing") frente a la mejora de los controles de seguridad. El autor Dario Amodei, líder del documento original "Pacing the Frontier", ha publicado recientemente un blog donde detalla su visión de "Evaluadores Embebidos" y argumenta que la verificabilidad de los compromisos de seguridad solo es posible si los auditores pueden observar tanto los modelos terminados como los pipelines de entrenamiento.
El anuncio también destaca la división pública entre quienes defienden una ralentización de la capacidad de los modelos y quienes prefieren enfocarse en mitigaciones técnicas y controles operacionales. Figuras como Bilal Chughtai, ex‑DeepMind, abogan por una mayor transparencia y pacing, mientras que otros, entre ellos Aidan Gomez, alertan contra la concentración de poder regulatorio en unas pocas empresas de Silicon Valley.
En paralelo, la comunidad técnica está consolidando la disciplina de "harness engineering", que se ocupa de los componentes de orquestación que rodean a los agentes de IA (herramientas, permisos, bucles de memoria, kill switches, etc.). Esta línea de trabajo refuerza la idea de que la seguridad no depende solo del modelo, sino del entorno completo donde se despliega.
Qué queda por ver: si otros laboratorios adoptarán el modelo de acceso total propuesto por Anthropic y si los gobiernos democráticos respaldarán la coordinación global necesaria para validar el cumplimiento del estándar AEF‑1. La efectividad del marco dependerá de la capacidad de los evaluadores para mantener independencia real pese a la proximidad operativa.
post de Dario Amodei sobre pacing y sitio del AI Evaluator Forum.
