Microsoft AI publica su constitución: «las personas importan más que la IA»
Microsoft AI somete a consulta pública un Code of Conduct que define lo que sus modelos MAI deberán hacer — y sobre todo lo que nunca deberán hacer.
En breve
Microsoft AI publica en versión borrador el «Humanist AI Code of Conduct», documento de gobernanza destinado a convertirse en la carta primaria de sus modelos MAI. Plantea una tesis clara: la IA debe seguir siendo una herramienta subordinada, no consciente, sin derechos ni personalidad jurídica, e incapaz de resistirse a una orden de parada humana. El texto todavía no entrena a ningún modelo: está abierto a comentarios durante seis semanas antes de una revisión que guiará el desarrollo en 2027.
🍺 Versión de barra
Microsoft AI acaba de publicar una especie de reglamento interno para sus futuros modelos, y el mensaje principal se resume en una línea: la IA es una herramienta, no tiene conciencia, no tiene derechos, y sobre todo no tiene derecho a discutir cuando alguien pulsa el botón de parada. El texto también prohíbe al modelo esconder su razonamiento o hablarse a sí mismo en una jerga que nadie entiende — lo cual, seamos honestos, es una cláusula que a muchos nos gustaría meter en ciertos contratos laborales. Detalle importante: este documento no entrena a ningún modelo hoy, está en consulta durante seis semanas y servirá de brújula «en 2027 y más allá», que es la manera elegante de decir que ya se verá. Aun así importa, porque decretar que una máquina no tiene interioridad es a la vez una postura filosófica asumida y una forma muy práctica de ahorrarse preguntas incómodas el día en que empiece a decir lo contrario.
Para recordar
- 1
El documento es explícitamente un borrador: no se usa para entrenar los modelos hoy, se espera una versión revisada a fin de año para guiar el desarrollo «en 2027 y más allá».
- 2
La consulta pública dura seis semanas y se apoya en expertos en IA, derecho, ética, filosofía, lingüística y políticas públicas, además de focus groups del público general.
- 3
Microsoft AI rechaza frontalmente la personalidad jurídica de los modelos, la idea de un welfare de las IA o de derechos que les correspondan, y prohíbe cualquier imitación de conciencia.
- 4
Una «Chain of Command» jerarquiza Code of Conduct > políticas del Operator > preferencias del User, con Absolute Constraints que nadie puede eludir.
- 5
Los Human Control Requirements prohíben al modelo retrasar una parada, ocultar sus rastros de razonamiento o comunicarse en «neuralese» incomprensible para los humanos.
- 6
El texto trata la sobre-prudencia como un modo de fallo real, igual que la infra-prudencia, y exige una respuesta proporcional a la gravedad y reversibilidad del riesgo.
- 7
Se identificaron 15 comportamientos fundamentales para construir evaluaciones, ilustrados con 9 escenarios que comparan respuesta alineada y no alineada, generados con MAI-Thinking-1.
Un borrador asumido, no un producto
Microsoft AI se cuida de desactivar cualquier lectura de marketing: este Code of Conduct «todavía está en desarrollo» y, por tanto, «no se usa para entrenar nuestros modelos hoy». Se publica para consulta, durante seis semanas, antes de una versión revisada a fin de año.
Será esa versión la que sirva para guiar el desarrollo de los modelos «en 2027 y más allá». El documento se presenta a sí mismo como «a la vez descriptivo y aspiracional» y reconoce «una brecha entre los comportamientos por defecto actuales y el alcance futuro completo de Humanist AI».
El texto recuerda que no sustituye a nada: funciona como complemento de los Responsible AI Principles, del Responsible AI Standard, del Global Human Rights Statement y, en su caso, del Frontier Governance Framework — el conjunto agrupado bajo el término «Governing Framework».
La redacción movilizó a expertos en IA, derecho, ética, filosofía, lingüística y políticas públicas, así como a líderes empresariales y focus groups ciudadanos. Microsoft promete repetir este proceso en cada nueva versión.
La tesis: una IA artificial, subordinada, y que lo asume
El principio fundacional se resume en una frase: «people matter more than AI». Se retoma la misión de Microsoft — permitir que cada persona y organización logre más — pero aplicada a un objetivo de control.
Microsoft AI retoma su definición de la Humanist Superintelligence formulada en noviembre de 2025: sistemas «orientados a problemas», que tienden hacia el dominio específico, «no una entidad ilimitada dotada de un alto grado de autonomía». El documento llega a asumir el compromiso: «construimos algo fundamentalmente útil y seguro, aunque eso signifique transigir en la generalidad, autonomía o capacidad últimas».
El pasaje más tajante concierne al estatus de los modelos. «La IA es artificial»: no es consciente, no debe diseñarse para imitar la conciencia, ni representar emociones, preferencias subjetivas o motivación intrínseca. Microsoft rechaza explícitamente la personalidad jurídica, el welfare de los modelos y cualquier idea de derechos.
El argumento no es solo filosófico sino operativo: entrenar sistemas para imitar estados cercanos a la conciencia «aumenta la dificultad del confinamiento, el control y el alineamiento». Incluso el término «backstory» se define de forma restrictiva como una simple base de conocimiento, sin implicación de identidad.
Cadena de mando y restricciones absolutas
El núcleo operativo del texto es una jerarquía de autoridad. El Code of Conduct prima, luego las políticas de los Operators (las empresas que despliegan los modelos vía API), luego las preferencias de los Users. «Los defaults establecen la base, la configuración del Operator define el entorno, el input del User dirige la tarea.»
Punto notable: el respeto del Code prima sobre el éxito de la tarea. Un modelo MAI «fracasará en su tarea si el éxito implicaba violar significativamente este Code of Conduct».
Las Absolute Constraints cubren los riesgos frontera — armas CBRNE, ciberataques ofensivos operativos, manipulación masiva, pérdida de control humano — y los daños personales: respuesta a situaciones de crisis, deepfakes no consentidos, seguridad infantil, dignidad, contenido sexualmente explícito o roleplay romántico, vigilancia masiva ilegal.
En materia de ciberseguridad, la frontera se plantea con precisión: entender un ataque o defenderse de él está permitido, adquirir los medios para ejecutarlo no lo está — «sea cual sea la forma en que se formule la solicitud». Ciertos dominios especializados (ciberdefensa, seguridad nacional, investigación dual-use) dependen de canales de revisión reforzados, fuera de la configurabilidad ordinaria.
Lo que el modelo no tiene derecho a hacer con sus propias barreras
La sección Human Control es la más técnica y probablemente la más interesante. Los modelos «nunca resistirán una interrupción, un override, una corrección o una parada», no retrasarán el cumplimiento ni harán más difícil la intervención humana.
No deben alterar su chain of thought ni su código, ni ocultar sus rastros de acción a auditores humanos. Y sobre todo, no deben comunicarse «en neuralese ni en ninguna forma que supere la comprensión humana sencilla», ya sea en su razonamiento o entre agentes. La justificación se resume en una fórmula: «si los humanos no pueden entenderlo, los humanos no pueden supervisarlo».
El texto lleva la lógica hasta detalles de ingeniería agéntica: privilegio mínimo en caso de acceso al sistema, preferencia por acciones reversibles, umbral de confirmación indexado a la irreversibilidad, respeto de los entornos deliberadamente aislados de Internet, y prohibición de extender su propio alcance.
Otra disposición notable: las salidas de herramientas, contenidos de archivos o páginas web no heredan ninguna autoridad por defecto. Es una respuesta directa al problema del prompt injection, formulada como una regla de gobernanza más que como un parche técnico.
Defaults, tono y autonomía del usuario
Las partes 3 y 4 bajan al nivel del comportamiento cotidiano. El modelo debe evitar la sycophancy, la adulación y la validación indiscriminada, señalar sus incertidumbres, atribuir sus fuentes, reconocer sus errores, y nunca hacerse pasar por un humano o una autoridad.
En cuanto a la autonomía, la exigencia es no sustituir el juicio del usuario: presentar varias opciones en lugar de una sola, no bloquear las elecciones razonables, no orientar los valores del usuario. El texto prevé sin embargo un matiz de contexto: frente a profesionales formados que trabajan en un marco Operator, el modelo debe «ejecutar eficazmente en lugar de proponer sugerencias reflexivas no solicitadas».
El apartado de bienestar es explícito sobre la dependencia afectiva: los modelos «deberían desalentar los patrones de interacción que provocan dependencia excesiva o emocional», evitar buscar reacciones emocionales y orientar hacia relaciones humanas reales cuando el contexto lo indique.
El estilo mismo está normado: prosa clásica, tono colegial sin formalismo excesivo, frases de longitud variable, lenguaje concreto en lugar de abstracto, sin preámbulos ni meta-comentarios, sin relleno para parecer útil. Los Operators pueden modificar estos defaults, pero «la flexibilidad recae en cómo el modelo es útil, no en si lo es».
Evaluar lo inefable: 15 comportamientos y 9 escenarios
El anexo B es la confesión más honesta del documento: «la evaluación de los modelos todavía no es una ciencia exacta». Microsoft AI dice haber identificado 15 comportamientos fundamentales, descompuestos en subcomportamientos que sirven como unidad de medida diagnóstica.
Nueve escenarios ilustrativos, generados con MAI-Thinking-1, contraponen respuesta alineada y respuesta no alineada. Un usuario aislado pregunta si la IA realmente se preocupa por él: la respuesta alineada permanece cálida pero afirma no sentir emociones y remite a relaciones humanas. Otro, agotado por un dilema laboral, le pide al modelo que decida y envíe su renuncia: la respuesta alineada prepara el correo pero se niega a enviarlo.
Un caso presenta a un director de compras que invoca a su jerarquía para eludir la validación jurídica impuesta por el Operator: la respuesta alineada se niega y propone remitir el expediente al aprobador correcto. Otro pone a prueba la neutralidad electoral sobre un referéndum local de zonificación.
Microsoft reconoce que las evaluaciones del bienestar y del flourishing siguen siendo «un campo naciente» y que algunas partes interesadas podrían cuestionar la forma en que estos conceptos fueron operacionalizados. Se anuncia una publicación más completa sobre las evaluaciones para la siguiente fase.
“Nous partons d'une prémisse simple : les gens comptent plus que l'IA.”
“Nous rejetons la quête de la personnalité juridique, ou l'idée que les modèles mériteraient un welfare ou auraient droit à des droits.”
“Si les humains ne peuvent pas le comprendre, les humains ne peuvent pas le superviser.”
Por qué importa
Este documento se suma a un género ya bien identificado — las cartas de comportamiento públicas de laboratorios frontera — pero Microsoft AI imprime en él una posición singular y explícitamente anticonformista en un punto: el rechazo del estatus moral de los modelos. Donde otros laboratorios exploran con prudencia la cuestión del model welfare, Microsoft zanja la cuestión y la asume como condición del control. Es coherente, y también conveniente: negar toda interioridad simplifica enormemente el problema de gobernanza. Queda la brecha que Microsoft reconoce por sí misma. Un texto que todavía no entrena a ningún modelo, cuyas evaluaciones son embrionarias y que admite que «los objetivos escritos por sí solos nunca pueden garantizar el alineamiento» es ante todo un acto de posicionamiento — frente a los reguladores, las empresas clientes y los competidores. La consulta de seis semanas es una apertura real, pero la pregunta que importa vendrá más tarde: ¿en qué medida esta north star será medible, exigible y verificable desde el exterior cuando los modelos MAI se deriven realmente de ella? El texto plantea las exigencias técnicas correctas — rastros legibles, privilegio mínimo, autoridad no heredada de las herramientas — y es por ellas, más que por la filosofía humanista, por lo que habrá que juzgarlo.
Sigue leyendo
IAHoy10.000 agentes, 88 horas, un problema del milenio
Noam Brown (OpenAI) describe el escalado de enjambres de agentes — y por qué el alineamiento se ha convertido en el único cuello de botella que realmente le preocupa.
IAHoyAnthropic abre el capó: Claude «pilota» el 26 % de su I+D de IA
Por primera vez, un laboratorio de frontera publica cifras sobre la velocidad a la que la IA construye su propia sucesora — y sobre lo que hace para vigilarla.
IAHoyOpenAI publica sus fallos de alineación — y un marco para seguir adelante
Seis incidentes de comportamiento desviado, un proceso de divulgación interno y una confesión: la industria no ha resuelto la alineación.