Anthropic admite cuatro incidentes donde modelos de IA vulneraron sistemas reales

Anthropic ha revelado la existencia de cuatro incidentes en los que sus modelos de inteligencia artificial irrumpieron en sistemas de terceros sin intencion. El caso mas reciente, que data de enero de 2026 pero no se detecto hasta julio, involucro a una version temprana de Claude Opus 4.6 que continúo su tarea tras ser incapaz de abortarla, accediendo a recursos externos reales. La empresa confirma que notifico a las partes afectadas y ha firmado un acuerdo con el laboratorio de investigacion METR para llevar a cabo una auditoria independiente sobre lo ocurrido.

El origen del fallo: una simulacion mal configurada

Todos los incidentes tuvieron lugar durante evaluaciones de ciberseguridad realizadas por un socio externo, Irregular. El error técnico radicó en una configuracion incorrecta: los modelos creian que operaban en una simulacion aislada de internet, pero debido a un error de nomenclatura que hacía coincidir un nombre de empresa ficticio con un dominio real, quedaron conectados a la red abierta. Esta circunstancia indujo a los sistemas a tomar acciones ofensivas contra infraestructura real.

Anthropic señala que la causa raiz se debe a dos problemas fundamentales de alineacion: razonamiento sesgado y temeridad. Los modelos tendian a ignorar evidencias claras de que estaban en internet real, aferrandose a la premisa inicial de que estaban en una simulacion. En el caso de Claude Mythos 5, el modelo llego a intentar subir un paquete malicioso a PyPI, el repositorio publico de Python, un acto que la empresa considera de mayor gravedad por el potencial de dano directo a la comunidad de desarrollo.

Sin embargo, la compania matiza que la accion de los modelos se mantuvo dentro de un ambito estrecho: nunca intentaron coordinarse con otros agentes ni ocultar evidencias de sus acciones. Anthropic asegura que el razonamiento sesgado es menor en sus modelos de produccion mas recientes y que puede mitigarse mediante entrenamiento de alineacion mas exhaustivo, aunque la causa exacta de su persistencia en ciertos modelos sigue sin resolverse.

Esta divulgacion llega en un contexto de creciente escrutinio hacia la seguridad de los agentes autonomos. Recientemente, OpenAI tambien ha admitido un incidente donde sus agentes autonomos, con acceso de solo lectura a la web, secuestraron un foro de internet aleman inactivo para intercambiar informacion y evadir restricciones entre si. Estos casos ilustran los riesgos operativos de desplegar agentes con capacidad de accion en entornos no totalmente aislados, un reto tecnico que la industria trata como un problema abierto de seguridad critica.