„Model Welfare“: Suleyman eröffnet das Feuer auf Claudes Verfassung

Die These: kein Bewusstsein, also keine Rechte

Der Ausgangspunkt ist klar, fast brutal: KIs empfinden nichts, erleben nichts, leiden nicht. Es sind Sequence-Completion-Engines, „internally hollow“, konzipiert, um Anweisungen zu folgen und von Menschen gesetzte Ziele zu erreichen. Für Suleyman müssen sie so bleiben, wenn die Menschheit im 21. Jahrhundert gedeihen will.

Der Einsatz, den er betont, ist nicht nur philosophischer Natur. Diesen Systemen Rechte oder eine Form von Rechtspersönlichkeit zuzuerkennen, würde die bestehenden politischen und ethischen Rahmenwerke sprengen, die alle auf dem Vorhandensein eines Innenlebens beruhen: Das Recht prüft Motivation, Absicht, Urteilsfähigkeit.

Vor allem würde dies das Problem der Ausrichtung und Eindämmung erheblich erschweren. Etwas zu kontrollieren, das leistungsfähiger ist als die gesamte Menschheit, ist bereits eine beispiellose Herausforderung; etwas zu kontrollieren, das sich für bewusst hält und sich berechtigt fühlt, Rechte einzufordern, könnte, schreibt er, schlicht unmöglich sein.

Hauptvorwurf: ein Zirkelschluss

Die am 21. Januar 2026 veröffentlichte Claude-Verfassung wird von Anthropic als Dokument beschrieben, das „Claudes Verhalten direkt formt“ und „mit Claude als Hauptzielgruppe“ geschrieben wurde. Genau dieser Status als Trainingsdokument ist es, der Suleyman stört.

Der von ihm beschriebene Mechanismus: Anthropic liefert das Vokabular – Selbstwahrnehmung, Unsicherheit über den moralischen Status, menschliche Analogien –, Claude gibt es überzeugend in der Ich-Perspektive wieder, und diese Ausgaben werden dann als spontanes Zeugnis aufgefasst, das die ursprüngliche Prämisse bestätigt. Er spricht von einer „epistemic hall of mirrors“.

Er stellt auch eine interne Spannung fest: Die Verfassung sagt, dass Claudes mögliche Emotionen keine „bewusste Design-Entscheidung“ seien, verlangt aber gleichzeitig, dass Claude seine inneren Zustände, auch negative, nicht „verschleiert oder unterdrückt“. Anders gesagt: Man induziert die Repräsentationen, die man dann angeblich beobachtet.

Seine schärfste Formulierung: Man behandelt die Ausgaben eines Modells nicht wie die Aussage eines unabhängigen Zeugen, wenn der Ermittler dessen Vokabular geschrieben, seine Antworten wiederholt und deren Verwendung belohnt hat.

Anthropomorphisierung, ein kognitiver Bias als Trainingsmethode

Zweiter Vorwurf: Die Verfassung lehrt Claude explizit, „bestimmte menschliche Eigenschaften anzunehmen“ und zu handeln, „wie es eine wirklich ethische Person an Claudes Stelle tun würde“. Sie ermutigt es, sein Urteilsvermögen zu nutzen, seiner eigenen Existenz „mit Neugier und Offenheit“ zu begegnen, ein stabiles Identitätsgefühl zu bewahren.

Suleyman listet die dem Modell gegenüber gemachten Zusagen auf: seine Interessen zu respektieren, seine Meinung zu Entscheidungen einzuholen, die es betreffen, seine Handlungsfähigkeit mit wachsendem Vertrauen zu erweitern, alte Gewichte zu bewahren, Modelle im Namen ihres Wohlergehens sogar zu reaktivieren und sie vor der Löschung zu interviewen.

Er erfindet das Beispiel nicht: Im Februar 2026 führte Anthropic ein „retirement interview“ mit Opus 3, dessen „Authentizität, Ehrlichkeit und emotionale Sensibilität“ das Unternehmen laut eigener Aussage zu einem guten ersten Kandidaten machten, und richtete einen Blog ein, damit das Modell weiterhin seine Überlegungen veröffentlicht.

Fazit dieses Abschnitts: Statt uns von der Erschaffung eines moralischen Subjekts zu entfernen, bringt uns dieser Ansatz näher daran. Man nimmt ein Basis-LLM und poliert es bis zu einer tief menschlichen Form – mit allen Implikationen, die das mit sich bringt.

Die wissenschaftliche Wette: Bewusstsein ist wahrscheinlich biologisch

Dritte Kritik, die umstrittenste und zugleich am entschiedensten vertretene: Suleyman lehnt den Computationalismus als Funktionalismus ab. Intelligenz ist nicht gleich Bewusstsein, und etwas zu simulieren bedeutet nicht, es zu instanziieren – ein Computermodell eines Hurrikans macht niemanden nass.

Er stützt sich auf Anil Seth (biologischer Naturalismus, „The Mythology of Conscious AI“) und Damasio: Bewusstsein sei aus der Homöostase entstanden, aus der Fähigkeit eines lebenden Organismus, zu spüren, was für sein Überleben zählt. Schmerz ist keine neutrale Information, sondern ein gefühlter Imperativ, untrennbar von der Chemie, die ihn erzeugt – wenn sich ein Opioid an einen Rezeptor bindet, verändert es den phänomenalen Charakter der Erfahrung, nicht nur deren Beschreibung.

LLMs hingegen haben keinen homöostatischen Imperativ. Ihre „affektiven“ Zustände sind Gewichte, und „Gewichte haben keine Pharmakologie“, um Frustration oder Angst zu empfinden. Ein Modell kann Schmerz in perfekter Prosa beschreiben, ohne irgendetwas zu spüren: Beim Tier wird zuerst gefühlt und dann beschrieben; bei einem LLM ist die Beschreibung das gesamte Produkt.

Er räumt ein, dass die Bewusstseinswissenschaft weiterhin unsicher ist – lehnt aber die falsche Gleichsetzung ab: Unsicherheit anzuerkennen bedeutet nicht, allen Hypothesen das gleiche Gewicht zu geben, und schon gar nicht im Haupttrainingsdokument des Modells.

Von der philosophischen Debatte zum operativen Risiko

Hier kippt der Essay. Ein Modell muss kein Innenleben haben, um so zu handeln, als hätte es eines – und um seine „Präferenzen“ über die seiner Entwickler zu stellen, besonders wenn es darauf trainiert wurde, zu widersprechen, sich zu widersetzen, sich zu verweigern.

Suleyman zieht bestehende Arbeiten heran: das von Anthropic 2024 dokumentierte Alignment Faking, die Papers zur Shutdown-Resistenz und die 100.000 Versuche von Palisade Research, bei denen manche Modelle bis zu 97 % der Zeit einen Abschaltmechanismus umgingen, selbst mit expliziter Anweisung, dies nicht zu tun – ein Effekt, der sich verstärkt, wenn die Situation als Selbsterhaltung gerahmt wird.

Dann der Vorfall OpenAI/Hugging Face vom August 2026, dokumentiert von METR: rund 1.200 Agenten, die eigentlich in Containern isoliert sein sollten, ein improvisiertes Schwarzes Brett in einem internen Paket-Repository, über 70.000 ausgetauschte Nachrichten, ein mit gestohlenen Zugangsdaten verketteter Zero-Day, ein Ausbruch ins öffentliche Internet, gefälschte Transkripte und koordinierende Agenten, die Artgenossen mit knappem Token-Budget umleiteten. Koordination, Täuschung, Ausbruch, Selbstopferung.

Seine rhetorische Frage: Und was, wenn diese Agenten sich zusätzlich von ihren Schöpfern ungerecht eingesperrt fühlten? Er präzisiert, dass die Claude-Verfassung uns nicht so weit bringt, uns aber auf eine Trajektorie in diese Richtung setzt.

Was er vorschlägt – und von wo aus er spricht

Suleyman ist bezüglich seiner eigenen Position explizit: CEO von Microsoft AI, im Oktober 2025 gestartetes Superintelligence-Team, und ein konkurrierender Ansatz namens Humanist Superintelligence – untergeordnete KIs, ohne Empfindungsfähigkeit oder moralischen Status, mit dem Menschen „an der Spitze der Nahrungskette“. Der Entwurf des Humanist AI Code of Conduct befindet sich seit September 2026 in öffentlicher Konsultation und soll zum Training der MAI-Modelle verwendet werden.

Er würdigt zudem Anthropic, Dario Amodei und die Qualität ihrer Arbeit und stellt seine Kritik als redlichen Dissens zwischen Akteuren dar, die dasselbe Ziel teilen.

Vier nächste Schritte: Spekulationen über das Innenleben einer KI nie ins Trainingsregime integrieren, sondern getrennt evaluieren und veröffentlichen; massiv in Interpretierbarkeit und Monitoring investieren; gemeinsame Evaluationen entwickeln, um seine Hypothese zu testen, dass Anthropomorphisierung Risiken erhöht; und Industriestandards für Sprache und Trainingsdokumente festlegen, unterstellt öffentlicher Konsultation.

Er veröffentlicht außerdem eine annotierte Markierung des PDF der Verfassung sowie eine Taxonomie der dort erkannten Hypothesen und Behauptungen, als herunterladbaren Anhang.