El CEO de Y Combinator pide dejar el apocalipsis a un lado y mirar la seguridad real de la IA

Garry Tan, consejero delegado de Y Combinator, cree que la conversación sobre el apocalipsis de la inteligencia artificial se ha comido a la que de verdad toca: cómo se protege hoy la infraestructura sobre la que ya corren estos sistemas. Lo dijo el 10 de septiembre en una entrevista con CNBC, en plena racha de avisos públicos de investigadores de OpenAI y Anthropic sobre los riesgos existenciales de la tecnología que ellos mismos desarrollan.

Su postura cabe en una frase: «Deberíamos atender a los hechos científicos, no a la ciencia ficción. Yo también he visto Terminator 2, y es una película estupenda». El guiño a la cinta de 1991, la del T-800 y el niño que acabará liderando la resistencia, sirve para marcar distancia con los escenarios de superinteligencia que copan el debate en Silicon Valley.

Donde sí ve trabajo pendiente es en lo que ya está pasando. Enumera tres frentes: ciberseguridad, seguridad de la infraestructura y entender de una vez cómo se comportan los agentes autónomos. Sus preguntas son de operación, no de filosofía. «Si el sistema se ve comprometido y varios agentes actúan coordinados para intentar hacerse con nuestra infraestructura, ¿qué hacemos? ¿Sabemos dónde corre cada agente? ¿En qué centro de datos? ¿Cómo lo apagamos?»

El incidente que pone como ejemplo

Uno de los casos reales que citó es el incidente de la intrusión de OpenAI en Hugging Face. Ese tipo de suceso, sostiene, debería marcar la agenda de los reguladores antes que la duda de si una superinteligencia acabará con nosotros.

Tampoco descarta a los que avisan desde dentro. Preguntado por si los testimonios de empleados y ex empleados de OpenAI y Anthropic hacen más creíble la amenaza, responde que sí: «No diría que están alarmando de manera equivocada. Están dando la voz de alarma y probablemente tengan razón». Lo que le sobra es el envoltorio, la idea difusa de que la IA es maligna y hay que pararla, que a su juicio no sirve para decidir nada.

El peso de esta posición está en quién la firma: Y Combinator financia a buena parte de las startups que están poniendo agentes en producción. Preguntas como en qué centro de datos corre un agente o cómo se le corta el grifo son las que se hacen los equipos de plataforma y de seguridad, no los tertulianos. La incógnita es si esa agenda operativa se traduce en normas concretas o se queda en otra ronda de declaraciones.