DeepMind crea un instituto para debatir cómo y cuándo llega la AGI
Shane Legg, Demis Hassabis y James Manyika dirigen el DeepMind Institute, una plataforma de ensayos sobre inteligencia general que se desmarca de la posición oficial de Google.
Google DeepMind ha puesto en marcha el DeepMind Institute, o DMI, una plataforma de investigación y debate sobre inteligencia artificial general. La ha presentado con el ensayo de lanzamiento, firmado por sus tres directores: Shane Legg, cofundador y científico jefe de AGI del laboratorio; Demis Hassabis, cofundador y presidente, que es además científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad en Google. Legg ejerce también como editor jefe.
El propio instituto se cura en salud: los textos que publique reflejan las ideas de sus autores y, según sus responsables, «no deberían leerse como la visión oficial de Google».
Qué entienden por AGI
El ensayo de lanzamiento define la inteligencia artificial general como un sistema que muestra todas las capacidades cognitivas del cerebro humano. Los sistemas actuales todavía fallan en tareas básicas, pero sus autores esperan que esas lagunas se cierren pronto. Entre los riesgos que señalan ahora están la ciberseguridad y los biorriesgos, y a futuro «la posibilidad de pérdida de control en sistemas que se automejoren». En agosto, un ejecutivo de DeepMind ya había vinculado el gasto en IA a máquinas capaces de mejorarse a sí mismas.
En la plataforma publicarán investigadores de Google DeepMind, de Google y de la comunidad. El ensayo avisa de que no siempre estarán de acuerdo.
Legg dijo al Financial Times que las capacidades no deben ir por delante de los controles de seguridad, y calificó de «interesante en su dirección» y «digna de consideración» la propuesta de Dario Amodei, consejero delegado de Anthropic, de ralentizar —sin pausar— los lanzamientos de modelos frontera. Amodei defendió el 12 de septiembre que la industria tiene que frenar. Legg también considera prematuro dar la AGI por alcanzada: Jensen Huang, de Nvidia, dijo el 7 de septiembre que había llegado, y OpenAI hizo su propia afirmación el 4 de septiembre. El científico mantiene un 50% de probabilidad de una AGI «mínima» en 2028.
Bilal Chughtai, que dejó el equipo de seguridad de AGI de DeepMind en julio, publicó una advertencia esta semana.
Cuatro ensayos de arranque
Junto al texto inaugural, el sitio lista cuatro piezas: transparencia en el razonamiento, de Rohin Shah y Anca Dragan; política económica para la AGI, de Julian Jacobs y Alex Imas; principios para un nuevo utopismo, de Stephen Cave; y un marco para la IA frontera y el amanecer de una nueva era, firmado por Hassabis.
Jacobs, economista e investigador en Google DeepMind, e Imas, director de Economía de la AGI, evalúan once políticas usando revisiones de literatura, encuestas y 51 evaluadores que son agentes de IA construidos a partir de datos de encuesta de 51 economistas reales. Sostienen que ninguna iniciativa única resuelve todo.
Emparejan tres respuestas de mínimo arrepentimiento con tres escenarios: seguro de desempleo ampliado, crédito fiscal por ingresos del trabajo más amplio y reciclaje liderado por empleadores para una disrupción leve; convertir ese crédito en un impuesto negativo sobre la renta para un desplazamiento moderado; y un fondo de capital básico universal si la participación del trabajo en el PIB cae de forma sostenida. A la renta básica universal la llaman «un instrumento caro y contundente que puede no concentrar suficiente ayuda donde más se necesita». En su encuesta, el 85% de los estadounidenses apoyaba el reciclaje financiado con fondos públicos y el 72% el seguro de desempleo; el capital básico universal se quedaba en el 54%. De las once políticas, fue la mejor puntuada en agencia (76,3 sobre 100) y la segunda peor en viabilidad (33,1), solo por delante de una garantía federal de empleo.
Lo relevante para quien trabaja con estos sistemas no es el ensayo, sino el movimiento: el laboratorio que está más cerca de la frontera abre un altavoz propio para discutir cómo debería gobernarse lo que construye, con la cautela de no hablar en nombre de Google. Queda por ver si ese altavoz publica también disidencias internas, como la de Chughtai, o se queda en un escaparate de consenso.
