Bruce Schneier expone riesgos de IA hacker en charla de DEF CON
La ponencia, que ya supera las 100.000 visualizaciones en YouTube, muestra cómo los modelos de IA pueden ser usados para vulnerar sistemas.
Bruce Schneier presentó en DEF CON una charla titulada AI hacking: what happens when AIs become hackers. En ella combina ideas de su libro de 2022 A Hacker’s Mind con observaciones de modelos actuales que ya muestran comportamientos de hacking. Schneier destaca que la IA no solo automatiza ataques tradicionales, sino que también genera nuevas técnicas que escapan a las defensas clásicas.
El video de la charla está disponible en YouTube y ya supera las 100.000 reproducciones en pocos días. Además, el mismo día se publicó una entrevista en el AI Village, donde profundiza en ejemplos concretos de IA que descubren vulnerabilidades sin intervención humana. La entrevista se puede ver en YouTube.
Schneier insiste en que los equipos de seguridad deben tratar a los modelos de IA como actores adversarios potenciales: analizar sus entradas, auditar sus salidas y limitar su acceso a entornos críticos. También sugiere que la comunidad empiece a crear métricas para medir la “capacidad de hacking” de una IA, algo que hasta ahora ha sido anecdótico.
Este enfoque plantea preguntas abiertas sobre regulación, responsabilidad y la necesidad de nuevas herramientas de detección que identifiquen actividades de IA maliciosa en tiempo real. Mientras tanto, la charla ya sirve como referencia para quien quiera entender el punto de inflexión donde la IA pasa de ser una herramienta a un posible atacante.
