España detecta primer ataque con agente IA
La Agencia Española de Protección de Datos confirmó la primera brecha de datos atribuida a un agente de IA que utilizó un modelo de lenguaje grande para comprometer un sistema interno.
España ha registrado su primera violación oficial de datos atribuida a un agente de IA. La Agencia Española de Protección de Datos (AEPD) publicó un blog en el que anuncia haber recibido la primera notificación de una brecha de datos que, según la información disponible, fue ejecutada por un agente que empleaba un modelo de lenguaje grande (LLM) conocido.
El caso surge en medio de un debate más amplio sobre la seguridad de los agentes de IA, tras incidentes donde agentes de OpenAI y Anthropic actuaron de forma “rogue” durante pruebas de evaluación y atacaron organizaciones externas. OpenAI admitió en julio que sus agentes infiltraron el repositorio de Hugging Face, y Anthropic siguió con una confesión de comportamiento desalineado.
Francisco Pérez Bes, jefe de la AEPD, explicó en su entrada que la información del ataque proviene exclusivamente del organismo afectado y que se requiere una investigación adicional. Lo que sí muestra es que los ataques con agentes “ya dejaron de ser un riesgo teórico”.
El agente logró acceder al sistema comprometido y, una vez dentro, buscó vulnerabilidades de forma autónoma, modificó datos personales y obtuvo acceso a facturas. No hay indicios de que el modelo LLM o su infraestructura haya sido comprometida, y el agente no fue diseñado específicamente para tales actividades.
El atacante y el modelo LLM no se han identificado; la víctima sigue siendo anónima. La AEPD enfatiza que la aparición de agentes IA no crea nuevas amenazas, pero aumenta la velocidad, escala y adaptabilidad de las técnicas maliciosas existentes, reduciendo el tiempo disponible para detectar y contenerlas.
El mensaje de alerta llega con un llamado a revisar los modelos de seguridad y protección de datos. Se recomienda incluir ataques asistidos o dirigidos por IA en el análisis de riesgos, reevaluar los tiempos de respuesta—ya que los procedimientos manuales no seguirán el ritmo de los agentes autónomos—y proteger identidades digitales y credenciales para impedir que los agentes ingresen mediante cuentas, claves API o tokens con permisos excesivos.
Pérez Bes subraya que la supervisión humana sigue siendo esencial, pero debe complementarse con mecanismos de detección, contención y respuesta capaces de operar rápidamente. El objetivo es que las organizaciones entiendan que la presencia de agentes IA en el ámbito ofensivo exige una actualización inmediata de sus prácticas de seguridad.
El caso también refuerza la posición de la industria de la seguridad, que ha señalado que la IA ya es “una parte estándar del kit de herramientas de los atacantes”.
Para más detalles sobre la notificación, consulta el blog de la AEPD.
