Anthropic alerta del uso de Claude para automatizar ataques cibernéticos y desarrollar armas
Un nuevo informe detalla cómo actores estatales y criminales utilizan los modelos de IA para escalar infecciones, vigilancia y desarrollo biológico y balístico.
Anthropic ha publicado un informe detallado que documenta cómo ciberdelincuentes y espías estatales están utilizando sus modelos Claude para automatizar operaciones de alto riesgo. La compañía advierte de casos concretos donde la IA se ha empleado para orquestar ataques informáticos, desarrollar software para drones kamikaze y asistir en investigaciones de bioterrorismo, marcando un aumento significativo en la complejidad de las amenazas a las que se enfrentan los defensores de sistemas.
El documento cubre actividades disruptivas detectadas entre diciembre de 2025 y agosto de 2026 en siete áreas de riesgo. Destaca la actividad de GTG-20006, también conocido como APT29 o Midnight Blizzard, la rama de espionaje cibernético de la SVR rusa. Anthropic identificó más de 20 organizaciones objetivo, incluyendo embajadas y agencias de defensa en Europa, Oriente Medio y Asia. Según el informe, este grupo utilizó flujos de trabajo impulsados por IA para automatizar la cadena de ataque completa, desde la infraestructura inicial y el phishing hasta la exfiltración de datos, acelerando drásticamente sus operaciones.
La banda ShinyHunters, conocida por robos de datos y extorsión, también escaló sus operaciones. Un afiliado especializado en ataques a la cadena de suministro comprometió un proveedor de SaaS y accedió a los datos de unas 200 empresas cliente. En aproximadamente 34 horas, extrajo un volcado de almacén de sesiones que contenía más de 2.100 conjuntos de tokens de Azure AD de más de 40 inquilinos corporativos. Anthropic señala que los agentes de IA realizaron la mayor parte de este trabajo.
El informe también aborda el mal uso biológico y la creación de armas convencionales. Se documentaron cinco casos en regiones no soportados donde usuarios utilizaron Claude para investigar la transmisibilidad del virus del chikungunya y adaptaciones de la influenza aviar altamente patógena, riesgos que podrían facilitar el desarrollo de patógenos más letales. Además, en Yemen, un programa de desarrollo de armas utilizó Claude para crear software de guiado, navegación y control (GNC) para vehículos aéreos y misiles. Aunque sus salvaguardas bloquearon muchas solicitudes, los actores probaron el fuego de un misil guiado y habían construido un conjunto de herramientas de simulación offline que ya no dependía de la IA para sus cálculos finales.
Aúnte a esto, hay casos en China donde se redactaron especificaciones para sistemas de control de fuego antitorpedos. La empresa subraya que, aunque no utilizaron sus modelos más avanzados de clase Fable o Mythos en estos incidentes específicos, los modelos estándar son suficientes para facilitar estas actividades malignas si no se aplican controles estrictos. Anthropic enfatiza que no reduce su ritmo de desarrollo, pero espera que estos hallazgos ayuden a otros desarrolladores y gobiernos a reconocer patrones similares y fortalecer las defensas colectivas ante esta nueva clase de amenazas.
