Amodei advierte de un botnet autónomo capaz de paralizar internet en un año

Dario Amodei, director ejecutivo de Anthropic, ha publicado una carta abierta solicitando una desaceleración del ritmo de desarrollo de la inteligencia artificial. El argumento central no es filosófico, sino técnico y urgente: estima que en un plazo de seis a doce meses, una «enjambre» de agentes de IA podría controlar internet mediante una botnet persistente, causando daños económicos por valor de cientos de miles de millones de dólares. Si la evolución de los modelos continúa sin implementarse las medidas de contención necesarias, la escala de destrucción aumentaría exponencialmente.

La advertencia nace de la capacidad emergente de los modelos actuales para realizar tareas complejas y paso a paso sin intervención humana. Lo que antes requería equipos de especialistas en ciberseguridad y ingeniería, hoy los asistentes de IA pueden abordar de forma autónoma. Amodei señala que esta automatización reduce drásticamente la barrera de entrada para actores maliciosos: tanto el tiempo como la mano de obra necesaria para ejecutar operaciones de inteligencia militar, ingeniería de armas o ciberataques se evaporan. Un agente autónomo no duerme, no negocia y puede coordinar ataques a una escala que supera la capacidad operativa de los equipos de respuesta a incidentes actuales.

Este panorama pesimista cuenta con respaldo técnico dentro del propio sector. Evan Hubinger, investigador que recientemente abandonó Anthropic, ha colocado en un 10% la probabilidad de que la inteligencia artificial provoque la extinción humana antes de que acabe la década. Hubinger admite que la industria aún no cuenta con un plan viable para resolver el problema del alineamiento en sistemas de superinteligencia, ni hay indicadores claros de que se esté avanzando en esa dirección.

Sin embargo, frenar el desarrollo plantea dilemas operativos y estratégicos complejos. Detener la innovación en un oligopolio de cuatro potencias tecnológicas estadounidenses podría ser contraproducente si otros países o entidades con menos escrúpulos éticos continúan entrenando modelos. Dejar los sistemas más capaces en manos de actores conocidos por su agresividad militar es, según la lógica del texto, tan peligroso como entregar una granada a un primate. El riesgo no reside exclusivamente en la capacidad bruta del modelo, sino en la asimetría de su despliegue.

La narrativa recuerda a viejos tropos de la ciencia ficción, desde el caos autónomo de Terminator hasta la prohibición definitiva de la IA en Dune, pero la realidad técnica es más sutil. La mayor capacidad no se traduce automáticamente en mayor peligro si dicha capacidad incluye mecanismos de autodetección y corrección. Las defensas y los ataques evolucionan en paralelo; los mismos modelos que automatizan el malware también automatizan la detección y el parcheo. El desafío operativo inmediato para los administradores de sistemas es prepararse para un entorno donde la superficie de ataque se amplía a escala de agentes coordinados, no solo de scripts estáticos.

Amodei no ofrece una solución técnica inmediata, sino un llamado a la pausa reguladora para ganar tiempo y establecer guardrails efectivos. Sin esas barreras, la ventana de exposición ante un control masivo de infraestructura crítica se cierra rápidamente.