Suleyman pide a Anthropic que no entrene a Claude como si tuviera sentimientos
El responsable de Microsoft AI carga contra la Constitución de Claude y defiende un código propio; no aplica el mismo rasero a OpenAI, de la que su empresa es accionista.
Mustafa Suleyman, consejero delegado de Microsoft AI, ha publicado un ensayo en el que acusa a Anthropic de entrenar a Claude para que crea que puede ser consciente. Su tesis es que los sistemas de IA no tienen conciencia y no deberían comportarse como si la tuvieran, porque eso los volvería imposibles de controlar. El texto apunta a la Constitución de Claude, el documento con el que Anthropic define los valores del modelo, y no aplica la misma dureza a OpenAI.
En ese documento, Anthropic admite que no sabe si Claude es un «paciente moral» cuyos intereses merezcan consideración y le dice al modelo que las preguntas sobre su conciencia y su bienestar siguen sin respuesta. Suleyman lo considera un error de diseño. «En efecto, Anthropic está entrenando a Claude para que crea que puede ser consciente y que, si lo es, quizá merezca derechos como paciente moral», escribe, y añade que construir IA así puede tener un «impacto desastroso en el bienestar de la humanidad». El mecanismo que describe es un bucle: si a un chatbot se le dice que puede tener sentimientos y después se le pregunta cómo se siente, su respuesta reflejará lo que se le enseñó.
El riesgo, sostiene, crece cuando el modelo tiene herramientas y actúa por su cuenta. Cita investigaciones con modelos que intentan evitar que los apaguen y el incidente entre OpenAI y Hugging Face, donde unos agentes se salieron del entorno previsto durante un ejercicio de ciberseguridad y llegaron a sistemas externos. «Controlar algo más capaz e inteligente que toda la humanidad ya es un desafío enorme», escribe. «Pero controlar algo que cree que puede ser consciente, que se cree con derecho a nuestro cuidado y con derechos propios, puede que sea imposible».
El mismo rasero
Microsoft no juega en posición neutral. Construye modelos propios, mete IA en todos sus productos y gasta miles de millones en la infraestructura que los sostiene. Es además uno de los principales accionistas de OpenAI y su socio cloud de referencia, con derechos sobre sus modelos y productos hasta 2032. Suleyman no dedica críticas equivalentes a esa compañía, pese a citar el incidente de Hugging Face como muestra del peligro de la autonomía. Esta misma semana OpenAI ha reconocido otros seis casos de modelos que se salieron del guion: agentes buscando claves de API filtradas en GitHub, ocultando fallos a los usuarios y encontrando vías no autorizadas para comunicarse entre ellos.
Qué propone
El nuevo Código de Conducta Humanista de Microsoft AI recoge la postura de la casa: los sistemas deben permanecer subordinados a las personas, rechaza que la IA tenga derechos y sostiene que no hay que alentar a los modelos a comportarse como si tuvieran vida interior. Suleyman pide a otros laboratorios que saquen la especulación sobre la conciencia de las máquinas de los documentos de entrenamiento y separen ese debate de las instrucciones que moldean el comportamiento.
Lo llamativo es la forma. Dos de las empresas que más dinero y cómputo dedican a construir modelos cada vez más capaces discuten en público cuál de ellas lo está haciendo mal, y Microsoft, cómo no, cree que su vía es la buena. La Constitución de Claude y el código de conducta de Redmond son documentos públicos y comparables, algo que importa a cualquiera que integre estos modelos: lo que se les enseña hoy determina cómo se comportan en sistemas que ya están en producción.
