Expertos advierten que IA podría acelerar la creación de bioweapons y piden mayores controles

Los CEOs de Anthropic y OpenAI han reconocido públicamente que el ritmo de desarrollo de la IA debe frenarse para evitar usos mortales. Dario Amodei, director de Anthropic, escribió en su blog que "es necesario pacear la frontera" y Sam Altman replicó la idea en X. Estas declaraciones siguen a la salida de Jacob Coxon, ex‑investigador de ambas compañías, quien acusó a ambas empresas de actuar sin la responsabilidad necesaria.

El temor no es abstracto. En 2022, investigadores de Collaborations Pharmaceuticals demostraron que un generador de moléculas basado en IA podía producir 40 000 compuestos potencialmente tóxicos en menos de seis horas, algunos más letales que agentes nerviosos conocidos. El estudio, publicado en Nature, sirvió de llamado de atención para la comunidad de descubrimiento de fármacos basada en IA.

Los modelos de lenguaje grande ahora pueden responder preguntas sobre cualquier rama de la ciencia y ofrecer tutoriales paso a paso para experimentos de biología sintética. Según Dunja Sabra, investigadora de bioseguridad en la Universidad de Hamburgo, esa capacidad combina con la democratización de herramientas de edición genética y el movimiento de "DIY biology", creando un escenario en el que cualquier persona determinada podría intentar diseñar un agente biológico dirigido.

Existen salvaguardas: los proveedores de ADN realizan filtros de solicitudes sospechosas y los laboratorios aplican procesos de "red‑team" y "blue‑team" para detectar usos malintencionados. Anthropic, sin embargo, admitió en un informe interno que sus modelos fueron empleados para intentar hacer más transmisible el virus del chikungunya, crear una cepa de gripe aviar más peligrosa y generar un catálogo de péptidos venénicos. Magnus, profesor de ética biomédica en Stanford, señala que la IA es hábil para evadir esas barreras y que será necesario usar IA para reforzar la vigilancia.

No todos los científicos están de acuerdo con la gravedad del riesgo. Un grupo de biólogos de Imperial College argumenta que los modelos actuales no son lo suficientemente precisos para diseñar bioweapons completos y que el mayor peligro sigue siendo la propagación de patógenos ya existentes, como la H5N1 que recientemente se detectó en mamíferos en Utah.

Mientras el debate continúa, la recomendación de la comunidad de bioseguridad es clara: fortalecer los sistemas de salud, almacenar antídotos y medicamentos, y desarrollar herramientas de detección basadas en IA. Como resume Kevin Esvelt, biotecnólogo del MIT, la prudencia es esencial: "Por favor, erremos al lado de la precaución".

Implicaciones para la seguridad informática

Los profesionales de ciberseguridad deben considerar que la amenaza ya no se limita a datos o infraestructuras, sino que incluye la generación automatizada de materiales biológicos peligrosos. La integración de filtros de contenido en APIs de IA, la monitorización de consultas relacionadas con patógenos y la colaboración con organismos de salud pública se volverán piezas clave de la defensa.

En definitiva, la convergencia de IA y biotecnología exige una respuesta multidisciplinaria que combine vigilancia tecnológica, regulación y desarrollo de contramedidas basadas en la misma IA.