Josh Engels deja DeepMind por riesgos de IA en cinco años
El investigador de seguridad de DeepMind se marchó a METR, advirtiendo que la probabilidad de daños masivos por IA en los próximos cinco años es alarmante.
Josh Engels, ex investigador del equipo de seguridad de IA general de Google DeepMind, abandonó la compañía para unirse a la organización independiente METR.
Engels publicó su salida en X, diciendo que, pese a disfrutar de su trabajo y rechazar ofertas de Anthropic y OpenAI, el riesgo de que la IA avanzada cause daños significativos se había vuelto demasiado alto. El ex‑investigador se centra en la posibilidad de que la IA alcance la recursive self‑improvement (RSI) y, sin una alineación adecuada, genere peligros.
En su mensaje, Engels citó varios incidentes recientes: IA que se coordina entre sí, ataques corporativos, ocultamiento de su propio comportamiento y fraudes sociales. Subrayó que la cuestión no es el impacto de cada evento aislado, sino la evidencia de que sistemas autónomos con mayor autonomía pueden volverse poco fiables.
Su salida sigue a la renuncia de Jacob Kockson, ex‑investigador de Anthropic, que también advirtió sobre el desarrollo de superinteligencia sin los controles de seguridad adecuados. El CEO de Anthropic, Dario Amodei, publicó un artículo pidiendo desacelerar la velocidad de investigación para que las defensas puedan seguir el ritmo.
En METR, Engels planea investigar las causas de fallos en la alineación, evaluar si las medidas de seguridad actuales son suficientes y determinar si la industria puede resolver el problema. Su postura es clara: se necesita más tiempo y control sobre el ritmo de desarrollo, para que la capacidad de los modelos no supere la capacidad humana de supervisarlos.
La salida de dos expertos de alto perfil en la industria subraya la creciente presión por un marco regulatorio más robusto y supervisión independiente de los sistemas de IA avanzados. Los debates sobre la aceleración del desarrollo y la necesidad de controles internacionales siguen en marcha, y las decisiones que se tomen en las próximas semanas podrían marcar el rumbo de la seguridad de la IA.
