Ataque a plataformas de IA mediante contenido compartible y búsquedas maliciosas
Los atacantes están aprovechando las funciones de confianza de Claude, ChatGPT y Grok para distribuir malware y ransomware a través de enlaces públicos y resultados de búsqueda manipulados.
Los ataques a plataformas de IA no se dirigen a las compañías ni a los modelos, sino a las funciones que los usuarios ya confían. Huntress Security Operations Center (SOC) ha detectado que, en los últimos nueve meses, los atacantes han weaponizado artefactos compartibles de Claude, conversaciones públicas de ChatGPT y Grok, y resultados patrocinados para entregar malware a usuarios que buscan soluciones de AI.
Ejemplo: FakeAgent
En julio, una campaña llamada FakeAgent afectó a más de 29 organizaciones. Los atacantes publicaron un artefacto de Claude en claude.ai con una página de descarga de “Claude Desktop” que, al hacer clic, redirige a un dominio externo que entrega SectopRAT. Anthropic retiró el artefacto el 22 de julio, pero el dominio de redirección siguió sirviendo malware hasta agosto.
Páginas de soporte falsificadas
En otro caso, un resultado patrocinado en Google por “Claude on Mac” llevaba a un enlace claude.ai/share que presentaba una guía de instalación de Apple Support. La página, alojada en el dominio de Anthropic, contenía un comando curl que iniciaba una cadena de seis etapas que instalaba MacSync, un keylogger que extraía cookies, credenciales y llaves SSH.
Poisoning de búsqueda
En diciembre, búsquedas de “clear disk space on macOS” mostraron conversaciones de ChatGPT y Grok en la parte superior de Google. Los atacantes habían creado las conversaciones, compartido sus URLs y optimizado el SEO para que aparecieran primero. Al ejecutar los comandos sugeridos, los usuarios descargaban AMOS, otro stealer.
Recomendaciones
Los atacantes no han roto la seguridad interna de las plataformas, sino que explotaron la confianza de los usuarios. Los defensores deben:
- Restringir la ejecución de scripts desde el portapapeles y aplicar listas blancas de aplicaciones.
- Monitorizar tareas programadas y cambios en exclusiones de antivirus.
- Capacitar a los usuarios para identificar Click‑Fix y contenido sospechoso.
- Reportar rápidamente cualquier contenido malicioso a los proveedores de IA.
La ventana de explotación es corta, pero una respuesta rápida y controles en capas puede reducir el riesgo.
Recurso
