NCSC advierte que la defensa con agentes IA necesita un enfoque nuevo
El NCSC lanza un marco para la adopción de IA agente en la ciberseguridad, señalando que la política organizacional y la evaluación de riesgos son más críticas que la tecnología.
El National Cyber Security Centre (NCSC) ha publicado una guía sobre cómo los profesionales de ciberseguridad pueden incorporar agentes de IA para automatizar tareas y gestionar riesgos. La recomendación, según Dave Chismon, CTO de arquitectura del NCSC, no se centra en superar obstáculos técnicos, sino en la política organizacional: los defensores no pueden aplicar la IA de la misma forma que los atacantes.
"Esto es una verdad incómoda, ya que sugiere que la amenaza de ataques habilitados por IA crecerá, mientras que la defensa autónoma puede quedarse atrás a menos que cambiemos nuestro enfoque", afirma Chismon.
El NCSC señala que la automatización puede incluir técnicas ofensivas aplicadas defensivamente, como pruebas de penetración y búsqueda de vulnerabilidades. Estas aplicaciones se prueban antes de entrar en producción y las vulnerabilidades se remiten a los equipos de desarrollo para su corrección. El proceso de establecer un SOC suele ser largo y costoso, y exige acuerdos legales y políticas claras. El NCSC subraya que todo trabajo previo debe demostrar que la detección de vulnerabilidades o la falta de parches no dañará el negocio.
Para ayudar a las organizaciones, el NCSC ha diseñado un marco que estima la “risiocidad” de una acción defensiva y identifica las acciones de menor riesgo que se pueden automatizar, a menudo tareas que solo aconsejan a un humano en lugar de afectar directamente un sistema.
El marco se alinea con la iniciativa gubernamental Cyber Shield, que busca crear un ecosistema nacional de defensa cibernética agente. Se espera que el libro de problemas “AI for Cyber Defence” se publique pronto. Chismon advierte que se necesita más investigación, especialmente para demostrar de forma determinista que las acciones de bajo riesgo realmente lo son. Ejemplos incluyen usar IA para analizar registros de tráfico y confirmar que la organización conoce todas las rutas de conexión de los clientes, o determinar si la IA puede reverse‑engineer un binario para prever los llamados de red.
"Responder a estas preguntas nos dará a nosotros y a las organizaciones que protegemos la confianza necesaria para tomar acciones defensivas automatizadas. Además, abrirá la posibilidad de automatizar la endurecimiento de sistemas y reducir superficies de ataque, lo que será crucial para combatir los ataques habilitados por IA", concluye Chismon.
El NCSC enfatiza que estos esfuerzos requerirán tiempo, esfuerzo y investigación. Las organizaciones no pueden quedarse esperando que la defensa con agentes se implemente de forma automática; deben seguir mejorando la seguridad de manera tradicional.
Para profundizar, el NCSC publica su blog con más detalles: advice.
