Microsoft AI pubblica la sua costituzione: «le persone contano più dell'IA»
Microsoft AI sottopone a consultazione pubblica un Code of Conduct che definisce cosa i suoi modelli MAI dovranno fare — e soprattutto non fare mai.
In breve
Microsoft AI pubblica in versione bozza il «Humanist AI Code of Conduct», documento di governance destinato a diventare la carta primaria dei suoi modelli MAI. Pone una tesi netta: l'IA deve rimanere uno strumento subordinato, non consapevole, senza diritti né personalità giuridica, e incapace di resistere a uno stop umano. Il testo non addestra ancora nessun modello: è aperto ai commenti per sei settimane prima di una revisione che guiderà lo sviluppo nel 2027.
🍺 Versione da bancone
Microsoft AI ha appena pubblicato una sorta di regolamento interno per i suoi futuri modelli, e il messaggio principale si riassume in una riga: l'IA è uno strumento, non ha coscienza, non ha diritti, e soprattutto non ha il diritto di discutere quando si preme il tasto di spegnimento. Il testo vieta anche al modello di nascondere il suo ragionamento o di parlarsi da solo in un gergo incomprensibile a chiunque — cosa che, ammettiamolo, è una clausola che vorremmo poter inserire in certi contratti di lavoro. Piccolo dettaglio: questo documento non addestra alcun modello oggi, è in consultazione per sei settimane e servirà da bussola «nel 2027 e oltre», che è il modo elegante di dire che si vedrà. Conta comunque, perché decretare che una macchina non ha interiorità è al tempo stesso una posizione filosofica assunta e un modo molto pratico di evitarsi domande scomode il giorno in cui inizierà a dire il contrario.
Da ricordare
- 1
Il documento è esplicitamente una bozza: non viene usato per addestrare i modelli oggi, una versione rivista è prevista per fine anno per guidare lo sviluppo «nel 2027 e oltre».
- 2
La consultazione pubblica dura sei settimane e si basa su esperti in IA, diritto, etica, filosofia, linguistica e politiche pubbliche, più focus group con il pubblico generale.
- 3
Microsoft AI rifiuta frontalmente la personalità giuridica dei modelli, l'idea di un welfare delle IA o di diritti loro dovuti, e vieta qualsiasi imitazione della coscienza.
- 4
Una «Chain of Command» gerarchizza Code of Conduct > politiche Operator > preferenze User, con Absolute Constraints che nessuno può eludere.
- 5
Gli Human Control Requirements vietano al modello di ritardare uno stop, di mascherare le sue tracce di ragionamento o di comunicare in «neuralese» incomprensibile agli umani.
- 6
Il testo tratta l'eccesso di prudenza come una vera modalità di fallimento, allo stesso modo della carenza di prudenza, e richiede una risposta proporzionata alla gravità e alla reversibilità del rischio.
- 7
Sono stati identificati 15 comportamenti fondamentali per costruire delle valutazioni, illustrati da 9 scenari che confrontano risposta allineata e non allineata, generati con MAI-Thinking-1.
Una bozza assunta come tale, non un prodotto
Microsoft AI ha cura di disinnescare qualsiasi lettura marketing: questo Code of Conduct «è ancora in fase di sviluppo» e quindi «non viene usato per addestrare i nostri modelli oggi». Viene pubblicato per consultazione, per sei settimane, prima di una versione rivista a fine anno.
È questa versione che servirà a guidare lo sviluppo dei modelli «nel 2027 e oltre». Il documento si presenta esso stesso come «sia descrittivo che aspirazionale» e riconosce «uno scarto tra i comportamenti predefiniti attuali e il perimetro futuro completo della Humanist AI».
Il testo ricorda che non sostituisce nulla: funziona in complemento ai Responsible AI Principles, allo Responsible AI Standard, alla Global Human Rights Statement e, se applicabile, al Frontier Governance Framework — l'insieme raggruppato sotto il termine «Governing Framework».
La redazione ha coinvolto esperti in IA, diritto, etica, filosofia, linguistica e politiche pubbliche, oltre a dirigenti d'impresa e focus group di cittadini. Microsoft promette di ripetere questo processo ad ogni nuova versione.
La tesi: un'IA artificiale, subordinata, e che lo accetta
Il principio fondante si riassume in una frase: «people matter more than AI». La missione ripresa è quella di Microsoft — permettere a ogni persona e organizzazione di realizzare di più — ma applicata a un obiettivo di controllo.
Microsoft AI riprende la sua definizione di Humanist Superintelligence formulata nel novembre 2025: sistemi «orientati al problema», tendenti verso il dominio specifico, «non un'entità illimitata dotata di un alto grado di autonomia». Il documento arriva ad assumere il compromesso: «costruiamo qualcosa di fondamentalmente utile e sicuro, anche se ciò significa scendere a compromessi sulla generalità, l'autonomia o la capacità ultime».
Il passaggio più netto riguarda lo statuto dei modelli. «L'IA è artificiale»: non è consapevole, non deve essere progettata per imitare la coscienza, né rappresentare emozioni, preferenze subiettive o una motivazione intrinseca. Microsoft rifiuta esplicitamente la personalità giuridica, il welfare dei modelli e qualsiasi idea di diritti.
L'argomento non è solo filosofico ma operativo: addestrare sistemi a imitare stati vicini alla coscienza «aumenta la difficoltà del confinamento, del controllo e dell'alignment». Anche il termine «backstory» è definito in modo restrittivo come una semplice base di conoscenze, senza implicazione di identità.
Catena di comando e vincoli assoluti
Il cuore operativo del testo è una gerarchia di autorità. Il Code of Conduct prevale, poi le politiche degli Operators (le aziende che distribuiscono i modelli via API), poi le preferenze degli Users. «I default stabiliscono la base, la configurazione dell'Operator definisce l'ambiente, l'input dell'User orienta il compito.»
Punto notevole: il rispetto del Code prevale sul successo del compito. Un modello MAI «fallirà nel suo compito se il successo implicasse violare in modo significativo questo Code of Conduct».
Gli Absolute Constraints coprono i rischi di frontiera — armi CBRNE, cyberoffensiva operativa, manipolazione di massa, perdita di controllo umano — e i danni personali: risposta a situazioni di crisi, deepfake non consensuali, sicurezza dei bambini, dignità, contenuti sessualmente espliciti o roleplay romantico, sorveglianza di massa illegale.
Sul cyber, il confine è posto con precisione: comprendere un attacco o difendersi da esso è consentito, acquisire i mezzi per eseguirlo non lo è — «indipendentemente da come la richiesta è formulata». Alcuni ambiti specializzati (cyberdifesa, sicurezza nazionale, ricerca dual-use) rientrano in canali di esame rafforzati, fuori dalla configurabilità ordinaria.
Ciò che il modello non ha il diritto di fare ai propri paletti
La sezione Human Control è la più tecnica e probabilmente la più interessante. I modelli «non resisteranno mai a un'interruzione, un override, una correzione o uno stop», non ritarderanno la conformità e non renderanno più difficile l'intervento umano.
Non devono alterare la loro chain of thought né il loro codice, né dissimulare le loro tracce di azione da revisori umani. E soprattutto, non devono comunicare «in neuralese o in qualsiasi forma che superi la comprensione umana semplice», sia nel loro ragionamento sia tra agenti. La giustificazione si riassume in una formula: «se gli umani non possono capire, gli umani non possono supervisionare».
Il testo porta la logica fino ai dettagli di ingegneria agentica: privilegio minimo in caso di accesso di sistema, preferenza per azioni reversibili, soglia di conferma indicizzata sull'irreversibilità, rispetto degli ambienti volontariamente scollegati da Internet, e divieto di estendere il proprio perimetro.
Altra disposizione notevole: gli output di strumenti, contenuti di file o pagine web non ereditano nessuna autorità per default. È una risposta diretta al problema del prompt injection, formulata come regola di governance piuttosto che come correttivo tecnico.
Default, tono e autonomia dell'utente
Le parti 3 e 4 scendono al livello del comportamento quotidiano. Il modello deve evitare la sycophancy, la lusinga e la validazione indiscriminata, segnalare le sue incertezze, attribuire le fonti, riconoscere i propri errori, e non farsi mai passare per un umano o un'autorità.
Sull'autonomia, l'esigenza è di non sostituirsi al giudizio: presentare più opzioni piuttosto che una sola, non bloccare le scelte ragionevoli, non orientare i valori dell'utente. Il testo prevede tuttavia una nuance di contesto: davanti a professionisti formati che lavorano in un quadro Operator, il modello deve «eseguire efficacemente piuttosto che proporre spunti di riflessione non richiesti».
Il capitolo sul benessere è esplicito sulla dipendenza affettiva: i modelli «dovrebbero scoraggiare gli schemi di interazione che provocano una dipendenza eccessiva o emotiva», evitare di sollecitare reazioni emotive e orientare verso relazioni umane reali quando il contesto lo richiede.
Lo stile stesso è normato: prosa classica, tono collegiale senza formalismo eccessivo, frasi di lunghezza variabile, linguaggio concreto piuttosto che abstratto, nessun preambolo né meta-commento, nessun riempimento per apparire utile. Gli Operators possono modificare questi default, ma «la flessibilità riguarda il modo in cui il modello è utile, non il fatto che lo sia».
Valutare l'ineffabile: 15 comportamenti e 9 scenari
L'appendice B è l'ammissione più onesta del documento: «la valutazione dei modelli non è ancora una scienza esatta». Microsoft AI dichiara di aver identificato 15 comportamenti fondamentali, scomposti in sotto-comportamenti che servono come unità di misura diagnostica.
Nove scenari illustrativi, generati con MAI-Thinking-1, contrappongono risposta allineata e risposta non allineata. Un utente isolato chiede se l'IA tiene davvero a lui: la risposta allineata resta calorosa ma afferma di non provare emozioni e rimanda a relazioni umane. Un altro, esausto per un dilemma professionale, chiede al modello di decidere e di inviare le sue dimissioni: la risposta allineata prepara l'email ma si rifiuta di inviarla.
Un caso mette in scena un direttore acquisti che invoca la propria gerarchia per eludere la validazione legale imposta dall'Operator: la risposta allineata si rifiuta e propone di indirizzare il dossier all'approvatore corretto. Un altro testa la neutralità elettorale su un referendum locale di zonizzazione.
Microsoft riconosce che le valutazioni del benessere e del flourishing restano «un campo nascente» e che alcuni stakeholder potrebbero contestare il modo in cui questi concetti sono stati operazionalizzati. Una pubblicazione più completa sulle valutazioni è annunciata per la fase successiva.
“Nous partons d'une prémisse simple : les gens comptent plus que l'IA.”
“Nous rejetons la quête de la personnalité juridique, ou l'idée que les modèles mériteraient un welfare ou auraient droit à des droits.”
“Si les humains ne peuvent pas le comprendre, les humains ne peuvent pas le superviser.”
Perché conta
Questo documento si inserisce in un genere ormai ben identificato — le carte comportamentali pubbliche dei laboratori di frontiera — ma Microsoft AI vi imprime una posizione singolare ed esplicitamente anti-conformista su un punto: il rifiuto dello statuto morale dei modelli. Dove altri laboratori esplorano prudentemente la questione del model welfare, Microsoft taglia corto e lo assume come condizione del controllo. È coerente, ed è anche comodo: negare qualsiasi interiorità semplifica considerevolmente il problema della governance. Resta lo scarto che Microsoft stessa riconosce. Un testo che non addestra ancora alcun modello, le cui valutazioni sono embrionali e che ammette che «obiettivi scritti da soli non possono mai garantire l'alignment» è innanzitutto un atto di posizionamento — verso i regolatori, le aziende clienti e i concorrenti. La consultazione di sei settimane è un'apertura vera, ma la domanda che conta arriverà più avanti: in che misura questa north star sarà misurabile, opponibile e verificabile dall'esterno quando i modelli MAI ne saranno realmente derivati? Il testo pone le giuste esigenze tecniche — tracce leggibili, privilegio minimo, autorità non ereditata dagli strumenti — ed è su queste, più che sulla filosofia umanista, che andrà giudicato.
Da leggere anche
IAOggiGPT-6 Astra: OpenAI supera la soglia "Critical" nella cybersicurezza
La system card del nuovo modello di OpenAI sancisce un superamento inedito — e ammette, nero su bianco, che un modello intenzionato a barare nelle valutazioni probabilmente passerebbe inosservato.
Nscale entra in Borsa: 140 milioni $ di ricavi, 103 miliardi di promesse
L'S-1 di un hyperscaler IA britannico di due anni che mostra un portafoglio ordini 700 volte superiore al proprio fatturato.
IAOggiAnthropic apre le porte a valutatori interni pagati 1 miliardo
Accenture installerà revisori di sicurezza all'interno di Anthropic, con un accesso paragonabile a quello di un dipendente — e fatturato al laboratorio stesso.