Microsoft publica un código de conducta para sus modelos MAI: sin derechos ni vida interior

Microsoft AI ha publicado un código de conducta para sus modelos MAI. El texto fija valores, límites de comportamiento y un criterio para resolver objetivos que chocan entre sí, y queda por encima de las reglas del operador y de las peticiones del usuario. De momento la compañía no entrena sus modelos con él. Antes hay una consulta pública de seis semanas y una versión revisada prevista para finales de 2026, que ya guiará el desarrollo a partir de 2027.

El código cubre solo los modelos propios de Microsoft, no los de terceros que corren dentro de sus productos. La regla de partida es que el control humano va primero: la compañía dice que está dispuesta a renunciar a generalidad, autonomía o rendimiento si hace falta para mantenerlo. "If it isn't safe we shouldn't build it", ha dicho el responsable de Microsoft AI, Mustafa Suleyman. Lo que no hay es un límite de velocidad concreto, ningún número que diga cuánto hay que frenar.

El movimiento se suma a la petición de Dario Amodei, consejero delegado de Anthropic, de bajar el ritmo de la industria. Satya Nadella la respaldó el fin de semana, y también directivos de OpenAI, xAI y Meta. Según The Information, Microsoft además está dispuesta a que auditores externos comprueben si de verdad frena.

Nada de "Neuralese"

Los MAI deben aceptar interrupciones, correcciones y apagados de personas autorizadas. No pueden ampliar su propio ámbito de trabajo, ni ocultar lo que hacen, ni seguir más allá de un punto de parada acordado sin una autorización nueva. Los límites alcanzan también a los subagentes que deleguen.

El punto más filoso es el razonamiento. Microsoft prohíbe que los modelos usen "Neuralese" u otras formas de comunicación que la gente no entienda, tanto en su razonamiento interno como cuando hablan con otros sistemas de IA. El argumento es simple: no se puede supervisar lo que no se comprende.

El caso de GPT-6 Astra de OpenAI enseña por qué esto importa. Según su system card, sus trazas de razonamiento son mucho más difíciles de monitorizar que en modelos anteriores y contienen menos señales de mal comportamiento; a la vez, según OpenAI, respeta mejor los límites de seguridad que su predecesor, GPT-5.6 Sol. El jefe de científicos de OpenAI, Jakub Pachocki, ya había avisado sobre la supervisión antes de que saliera GPT-6. Microsoft admite el límite de fondo: una cadena de pensamiento legible solo sirve hasta que el modelo aprende a manipularla, y las razones que da no tienen por qué explicar lo que realmente hace.

La diferencia con Anthropic

La idea se parece a la constitución que Anthropic usa con Claude para generar datos sintéticos de entrenamiento. Ahí se acaba el parecido. Microsoft rechaza que sus modelos imiten conciencia, digan tener sentimientos o motivación propia, y no reconoce derecho ni bienestar alguno. Anthropic describe a Claude como una entidad de otro tipo, quiere darle una identidad estable y trata la posible experiencia subjetiva como cuestión abierta; ha estudiado incluso "emociones funcionales" en Claude Sonnet 4.5. Suleyman defiende lo contrario desde hace años: en un ensayo pidió quitar de los productos la ilusión de consciencia y dijo que un agente no debería tener más derechos que su portátil.

Queda por ver si el código cambia algo real. No obliga a terceros, no lleva cifras de desaceleración y la versión que manda llega en 2027, con la industria corriendo mientras tanto.