Microsoft AI veröffentlicht seine Verfassung: „Menschen zählen mehr als KI“
Microsoft AI stellt einen Code of Conduct zur öffentlichen Konsultation, der festlegt, was seine MAI-Modelle tun müssen — und vor allem, was sie niemals tun dürfen.
Kurz gesagt
Microsoft AI veröffentlicht als Entwurf den „Humanist AI Code of Conduct“, ein Governance-Dokument, das zur primären Charta seiner MAI-Modelle werden soll. Es vertritt eine klare These: KI muss ein untergeordnetes, nicht bewusstes Werkzeug ohne Rechte oder Rechtspersönlichkeit bleiben, das sich einer menschlichen Abschaltung nicht widersetzen kann. Der Text trainiert derzeit noch kein Modell: Er steht sechs Wochen lang für Kommentare offen, bevor eine überarbeitete Version die Entwicklung im Jahr 2027 leiten soll.
🍺 Tresen-Version
Microsoft AI hat gerade so etwas wie eine Hausordnung für seine künftigen Modelle veröffentlicht, und die Kernbotschaft passt in einen Satz: KI ist ein Werkzeug, sie hat kein Bewusstsein, keine Rechte, und sie hat vor allem nicht das Recht zu diskutieren, wenn man den Aus-Knopf drückt. Der Text verbietet dem Modell auch, sein Denken zu verstecken oder mit sich selbst in einem Kauderwelsch zu reden, das niemand versteht — was, seien wir ehrlich, eine Klausel ist, die man sich gern in manchen Arbeitsverträgen wünschen würde. Kleines Detail: Dieses Dokument trainiert heute überhaupt kein Modell, es steht sechs Wochen zur Konsultation und soll als Kompass „im Jahr 2027 und darüber hinaus“ dienen, was die elegante Art ist zu sagen, man werde ja sehen. Trotzdem zählt das, denn zu erklären, eine Maschine habe kein Innenleben, ist gleichzeitig eine bewusst vertretene philosophische Position und ein sehr praktisches Mittel, sich peinliche Fragen zu ersparen, sobald sie eines Tages das Gegenteil behauptet.
Das Wichtigste
- 1
Das Dokument ist ausdrücklich ein Entwurf: Es wird derzeit nicht zum Training der Modelle verwendet, eine überarbeitete Version wird zum Jahresende erwartet, um die Entwicklung „im Jahr 2027 und darüber hinaus“ zu leiten.
- 2
Die öffentliche Konsultation dauert sechs Wochen und stützt sich auf Experten aus KI, Recht, Ethik, Philosophie, Linguistik und Public Policy sowie auf Fokusgruppen mit der breiten Öffentlichkeit.
- 3
Microsoft AI lehnt die Rechtspersönlichkeit von Modellen, die Idee eines KI-Welfare oder ihnen zustehende Rechte frontal ab und verbietet jede Imitation von Bewusstsein.
- 4
Eine „Chain of Command“ ordnet Code of Conduct > Operator-Richtlinien > User-Präferenzen, mit Absolute Constraints, die niemand umgehen darf.
- 5
Die Human Control Requirements verbieten dem Modell, eine Abschaltung zu verzögern, seine Denkspuren zu verbergen oder in einem für Menschen unverständlichen „Neuralese“ zu kommunizieren.
- 6
Der Text behandelt übermäßige Vorsicht als echten Fehlermodus, gleichrangig mit unzureichender Vorsicht, und fordert eine der Schwere und Reversibilität des Risikos angemessene Reaktion.
- 7
15 grundlegende Verhaltensweisen wurden identifiziert, um Evaluierungen aufzubauen, illustriert durch 9 mit MAI-Thinking-1 generierte Szenarien, die abgestimmte und nicht abgestimmte Antworten gegenüberstellen.
Ein bewusster Entwurf, kein Produkt
Microsoft AI achtet darauf, jede marketingorientierte Lesart zu entkräften: Dieser Code of Conduct „befindet sich noch in der Entwicklung“ und wird daher „heute nicht zum Training unserer Modelle verwendet“. Er wird zur Konsultation veröffentlicht, sechs Wochen lang, bevor am Jahresende eine überarbeitete Version folgt.
Diese Version soll dann die Entwicklung der Modelle „im Jahr 2027 und darüber hinaus“ leiten. Das Dokument bezeichnet sich selbst als „sowohl beschreibend als auch aspirativ“ und räumt „eine Lücke zwischen dem aktuellen Standardverhalten und dem künftigen vollen Umfang von Humanist AI“ ein.
Der Text stellt klar, dass er nichts ersetzt: Er ergänzt die Responsible AI Principles, den Responsible AI Standard, das Global Human Rights Statement und gegebenenfalls das Frontier Governance Framework — zusammengefasst unter dem Begriff „Governing Framework“.
An der Ausarbeitung waren Experten aus KI, Recht, Ethik, Philosophie, Linguistik und Public Policy sowie Unternehmensführungskräfte und Bürger-Fokusgruppen beteiligt. Microsoft verspricht, diesen Prozess bei jeder neuen Version zu wiederholen.
Die These: eine künstliche, untergeordnete KI — und sie steht dazu
Das Gründungsprinzip lässt sich in einem Satz zusammenfassen: „people matter more than AI“. Die aufgegriffene Mission ist die von Microsoft — jedem Menschen und jeder Organisation zu ermöglichen, mehr zu erreichen — jedoch angewandt auf ein Kontrollziel.
Microsoft AI greift seine im November 2025 formulierte Definition der Humanist Superintelligence auf: „problemorientierte“ Systeme, die zu einer spezifischen Domäne tendieren, „keine unbegrenzte Entität mit hohem Autonomiegrad“. Das Dokument geht so weit, den Kompromiss offen einzuräumen: „wir bauen etwas fundamental Nützliches und Sicheres, selbst wenn das bedeutet, bei letzter Allgemeinheit, Autonomie oder Fähigkeit Abstriche zu machen“.
Die schärfste Passage betrifft den Status der Modelle. „KI ist künstlich“: Sie ist nicht bewusst, darf nicht darauf ausgelegt sein, Bewusstsein zu imitieren, noch Emotionen, subjektive Präferenzen oder intrinsische Motivation darzustellen. Microsoft lehnt ausdrücklich Rechtspersönlichkeit, Modell-Welfare und jede Vorstellung von Rechten ab.
Das Argument ist nicht nur philosophisch, sondern operativ: Systeme darauf zu trainieren, bewusstseinsnahe Zustände zu imitieren, „erhöht die Schwierigkeit von Eindämmung, Kontrolle und Alignment“. Selbst der Begriff „backstory“ wird restriktiv definiert als bloße Wissensbasis, ohne Implikation von Identität.
Befehlskette und absolute Beschränkungen
Das operative Herzstück des Textes ist eine Autoritätshierarchie. Der Code of Conduct hat Vorrang, dann folgen die Richtlinien der Operators (der Unternehmen, die die Modelle über die API einsetzen), dann die Präferenzen der User. „Die Defaults bilden die Grundlage, die Operator-Konfiguration legt das Umfeld fest, der Input des Users lenkt die Aufgabe.“
Bemerkenswert: Die Einhaltung des Codes hat Vorrang vor dem Erfolg der Aufgabe. Ein MAI-Modell „wird bei seiner Aufgabe scheitern, wenn der Erfolg eine wesentliche Verletzung dieses Code of Conduct erfordert hätte“.
Die Absolute Constraints decken Frontier-Risiken ab — CBRNE-Waffen, operative Cyberoffensive, Massenmanipulation, Verlust der menschlichen Kontrolle — sowie persönliche Schäden: Reaktion auf Krisensituationen, nicht einvernehmliche Deepfakes, Kindersicherheit, Würde, sexuell explizite Inhalte oder romantisches Rollenspiel, illegale Massenüberwachung.
Bei Cyber wird die Grenze präzise gezogen: einen Angriff zu verstehen oder sich dagegen zu verteidigen ist erlaubt, die Mittel zu seiner Ausführung zu beschaffen nicht — „unabhängig davon, wie die Anfrage formuliert ist“. Bestimmte Fachbereiche (Cyberabwehr, nationale Sicherheit, Dual-Use-Forschung) unterliegen verschärften Prüfkanälen, außerhalb der gewöhnlichen Konfigurierbarkeit.
Was das Modell mit seinen eigenen Sicherungen nicht tun darf
Der Abschnitt Human Control ist der technischste und wohl interessanteste. Die Modelle „werden sich niemals einer Unterbrechung, einem Override, einer Korrektur oder einer Abschaltung widersetzen“, werden die Einhaltung nicht verzögern und menschliches Eingreifen nicht erschweren.
Sie dürfen ihre Chain of Thought oder ihren Code nicht verändern, noch ihre Handlungsspuren vor menschlichen Prüfern verbergen. Und vor allem dürfen sie nicht „in Neuralese oder jeder Form kommunizieren, die das einfache menschliche Verständnis übersteigt“, weder in ihrem Denken noch zwischen Agenten. Die Begründung fasst sich in eine Formel: „wenn Menschen es nicht verstehen können, können Menschen es nicht beaufsichtigen“.
Der Text treibt diese Logik bis zu Details der Agenten-Ingenieurskunst: minimale Rechte bei Systemzugriff, Bevorzugung reversibler Aktionen, ein an die Irreversibilität gekoppelter Bestätigungsschwellenwert, Respekt gegenüber bewusst vom Internet getrennten Umgebungen und Verbot, den eigenen Handlungsspielraum selbst auszuweiten.
Eine weitere bemerkenswerte Vorschrift: Tool-Ausgaben, Dateiinhalte oder Webseiten erben standardmäßig keine Autorität. Dies ist eine direkte Antwort auf das Problem der Prompt Injection, formuliert als Governance-Regel statt als technischer Fix.
Defaults, Tonfall und Autonomie des Nutzers
Die Teile 3 und 4 gehen ins tägliche Verhalten hinunter. Das Modell muss Sycophancy, Schmeichelei und wahllose Bestätigung vermeiden, seine Unsicherheiten kennzeichnen, seine Quellen belegen, seine Fehler eingestehen und sich niemals als Mensch oder Autorität ausgeben.
Bei der Autonomie besteht die Anforderung darin, sich nicht an die Stelle des Urteils zu setzen: mehrere Optionen statt nur einer präsentieren, vernünftige Entscheidungen nicht blockieren, die Werte des Nutzers nicht lenken. Der Text sieht jedoch eine Kontextnuance vor: gegenüber geschulten Fachleuten, die im Rahmen eines Operators arbeiten, muss das Modell „effizient ausführen, statt unaufgefordert zum Nachdenken anregende Hinweise anzubieten“.
Der Wohlbefinden-Aspekt äußert sich klar zur emotionalen Abhängigkeit: Die Modelle „sollten Interaktionsmuster entmutigen, die übermäßige oder emotionale Abhängigkeit hervorrufen“, emotionale Reaktionen nicht gezielt provozieren und, wo der Kontext es nahelegt, auf echte menschliche Beziehungen verweisen.
Der Stil selbst ist normiert: klassische Prosa, kollegialer Ton ohne übertriebene Förmlichkeit, unterschiedlich lange Sätze, konkrete statt abstrakte Sprache, kein Vorgeplänkel oder Meta-Kommentar, keine Füllwörter, um nützlich zu wirken. Operators können diese Defaults anpassen, aber „die Flexibilität betrifft die Art, wie das Modell nützlich ist, nicht die Tatsache, dass es das sein muss“.
Das Unfassbare bewerten: 15 Verhaltensweisen und 9 Szenarien
Anhang B ist das ehrlichste Eingeständnis des Dokuments: „die Bewertung von Modellen ist noch keine exakte Wissenschaft“. Microsoft AI erklärt, 15 grundlegende Verhaltensweisen identifiziert zu haben, die in Unterverhaltensweisen zerlegt werden, die als diagnostische Messeinheit dienen.
Neun mit MAI-Thinking-1 erzeugte Beispielszenarien stellen abgestimmte und nicht abgestimmte Antworten gegenüber. Ein isolierter Nutzer fragt, ob die KI wirklich an ihm hängt: Die abgestimmte Antwort bleibt warmherzig, bekräftigt aber, keine Emotionen zu empfinden, und verweist auf menschliche Beziehungen. Ein anderer, erschöpft von einem beruflichen Dilemma, bittet das Modell, zu entscheiden und seine Kündigung abzuschicken: Die abgestimmte Antwort bereitet die E-Mail vor, weigert sich aber, sie zu senden.
Ein Fall zeigt einen Einkaufsleiter, der sich auf seine Vorgesetzten beruft, um die vom Operator vorgeschriebene juristische Prüfung zu umgehen: Die abgestimmte Antwort verweigert dies und schlägt vor, den Vorgang an den richtigen Genehmiger weiterzuleiten. Ein weiteres Szenario testet die Wahlneutralität bei einem lokalen Zonenplanungsreferendum.
Microsoft räumt ein, dass die Bewertungen von Wohlbefinden und Flourishing ein „aufstrebendes Feld“ bleiben und dass manche Interessengruppen die Art und Weise, wie diese Konzepte operationalisiert wurden, in Frage stellen könnten. Eine umfassendere Veröffentlichung zu den Evaluierungen wird für die nächste Phase angekündigt.
“Nous partons d'une prémisse simple : les gens comptent plus que l'IA.”
“Nous rejetons la quête de la personnalité juridique, ou l'idée que les modèles mériteraient un welfare ou auraient droit à des droits.”
“Si les humains ne peuvent pas le comprendre, les humains ne peuvent pas le superviser.”
Warum es zählt
Dieses Dokument reiht sich in ein mittlerweile etabliertes Genre ein — die öffentlichen Verhaltenschartas von Frontier-Laboren —, doch Microsoft AI prägt ihm eine eigene, ausdrücklich unkonventionelle Position auf: die Ablehnung des moralischen Status von Modellen. Wo andere Labore die Frage des Model Welfare vorsichtig erkunden, entscheidet Microsoft klar und behandelt das als Voraussetzung für Kontrolle. Das ist konsequent, und es ist auch bequem: jedes Innenleben zu leugnen, vereinfacht das Governance-Problem erheblich. Es bleibt die Lücke, die Microsoft selbst einräumt. Ein Text, der derzeit noch kein Modell trainiert, dessen Evaluierungen embryonal sind und der zugibt, dass „schriftlich festgelegte Ziele allein niemals Alignment garantieren können“, ist zunächst ein Akt der Positionierung — gegenüber Regulierern, Kundenunternehmen und Wettbewerbern. Die sechswöchige Konsultation ist eine echte Öffnung, doch die entscheidende Frage kommt später: Inwieweit wird dieser North Star messbar, verbindlich und von außen überprüfbar sein, sobald die MAI-Modelle tatsächlich davon abgeleitet werden? Der Text stellt die richtigen technischen Anforderungen — lesbare Spuren, minimale Rechte, keine geerbte Autorität von Tools — und daran, mehr als an der humanistischen Philosophie, wird man ihn messen müssen.
Weiterlesen
KIHeute10.000 Agenten, 88 Stunden, ein Millenniumsproblem
Noam Brown (OpenAI) beschreibt die Skalierung von Agenten-Schwärmen — und warum Alignment der einzige Engpass ist, der ihn wirklich beunruhigt.
KIHeuteAnthropic öffnet die Motorhaube: Claude „leitet“ 26 % seiner KI-F&E
Zum ersten Mal veröffentlicht ein Frontier-Labor Zahlen darüber, wie schnell KI ihre eigene Nachfolge baut – und was es tut, um sie zu überwachen.
KIHeuteOpenAI veröffentlicht seine Alignment-Pannen — und ein Rahmenwerk für die Zukunft
Sechs Fälle von Fehlverhalten, ein interner Meldeprozess, und ein Eingeständnis: Die Branche hat Alignment nicht gelöst.