Obama zur KI: „Die Technologie ist nicht überbewertet“ – die Regulierung schon
Vor den Studierenden von Colgate widmet Barack Obama zwanzig Minuten der KI: selbstlernende Modelle, die IPOs von Anthropic und OpenAI und das regulatorische Vakuum in Washington.
Kurz gesagt
Zu Gast an der Colgate University spricht Barack Obama über seine Präsidentschaft, die amerikanische Demokratie und vor allem über künstliche Intelligenz, die er als Technologie „nicht überbewertet“ nennt. Er beschreibt zwei Alignment-Probleme – jenes der Modelle und jenes zwischen öffentlichem Interesse und kommerziellen Zwängen – und plädiert für eine bundesstaatliche Regulierung, mit freiwilliger Zurückhaltung der Industrie als Übergangslösung. Eine Positionierung, die zählt, da sie von einem Ex-Präsidenten kommt, der bereits 2015-2016 eine KI-Kommission ins Leben gerufen hatte.
🍺 Tresen-Version
Obama kam eigentlich, um mit Studierenden über Demokratie zu reden, und ist dann zwanzig Minuten lang bei KI hängengeblieben – wobei er selbst vorwarnte, das würde sich anfühlen wie parlamentarische Obstruktion. Seine These: Die Firmen, die diese Maschinen bauen, haben so viel Angst vor ihrem eigenen Produkt, dass sie um Verlangsamung bitten – ausgerechnet kurz vor dem Börsengang, was ungefähr so üblich ist wie ein Autoverkäufer, der einem von der Turbo-Option abrät. Und auf der anderen Seite glaubt die aktuelle Regierung, der Markt werde die Sicherheit schon von allein regeln – so wie er das bei Flugzeugen und Medikamenten so hervorragend gemacht hat, bevor man Aufsichtsbehörden erfunden hat. Worauf es ihm ankommt: Ein Kandidat ohne ernsthaften Plan zur KI ist seiner Meinung nach schlicht nicht auf der Höhe der Zeit.
Das Wichtigste
- 1
Obama unterscheidet zwischen der Technologie, die „nicht überbewertet“ sei, und den Bewertungen der KI-Unternehmen, die es durchaus sein können.
- 2
Er behauptet, in weniger als einem Jahr sei der Anteil des Selbstlernens der Modelle von etwa 5-10 % auf 50 % gestiegen und könnte 90 % erreichen – eine Zahl, die er ohne genaue Quelle nennt.
- 3
Er ordnet die Risiken: außer Kontrolle geratene Superintelligenz (Wahrscheinlichkeit „nicht null“, aber gering), böswillige Nutzung durch Menschen (deutlich wahrscheinlicher eingeschätzt), Vernichtung qualifizierter Arbeitsplätze wie die von Junior-Anwälten, und süchtig machende KI-Companions für Kinder.
- 4
Er findet es „beispiellos“, dass Führungskräfte führender Labs, darunter Anthropic und OpenAI kurz vor massiven IPOs, zur Verlangsamung aufrufen, und hält ihre Sorge für aufrichtig.
- 5
Er weist das Argument eines Beraters von Donald Trump zurück, wonach Markt und Klagen ausreichen würden: So gehe man nicht mit Fluggesellschaften, Pharmalabors oder der Lebensmittelindustrie um.
- 6
Er identifiziert ein zweites Alignment-Problem: Der Druck, eine Investition zu monetarisieren, die größer ist als das Apollo-Programm, treibt agentische KI voran, die „frei“ im Internet getestet wird.
- 7
Zur Demokratie betont er, dass sie „nicht selbstausführend“ sei und von Normen, Gewohnheiten und sozialem Vertrauen abhänge, das im digitalen Zeitalter neu aufgebaut werden müsse.
Kapitel
Begrüßung in Colgate
Eröffnung der Kersner Family Global Leaders Series und Auftritt von Barack Obama auf der Bühne.
Michelle, Sunny und 35 Jahre Ehe
Obama spricht über den kürzlichen Tod ihrer Hündin Sunny, Michelle Obamas Aktivitäten und ihre 35-jährige Ehe.
Die Eröffnung des Obama Center
Das Museum erzählt eine Geschichte Amerikas, und der Campus zielt darauf ab, positiven sozialen Wandel zu bewirken.
Was die Präsidentschaft über das Land verrät
Ein riesiges Land, weniger gespalten als seine Politik und Medien, und ein Amerika, das lange Garant der Weltordnung war.
Das emotionale Wetter einer Nation
Besuche nach Tornados, die Überführung von Soldatensärgen, und die Notwendigkeit, mit etwas Poesie zu regieren.
KI in den Händen weniger Unternehmen
Der Gastgeber fragt Obama nach der demokratischen Antwort auf die konzentrierte Macht der KI; er kündigt eine lange Antwort an.
Nicht überbewertet, und längst antizipiert
Die Technologie sei nicht überbewertet, im Gegensatz zu den Bewertungen; Erinnerung an seine Kommission von 2015-2016, die folgenlos blieb.
Rekursives Lernen und exponentielle Kurve
Die Modelle würden inzwischen ebenso viel von sich selbst lernen wie von Menschen, mit erwarteter Beschleunigung.
Kartografie der Risiken
Fehlausrichtung, böswillige Nutzung, Vernichtung qualifizierter Arbeitsplätze und süchtig machende KI-Companions.
Die Labs rufen zur Verlangsamung auf
Obama hält den Ruf nach Verlangsamung von Führungskräften bei Anthropic und OpenAI für aufrichtig, trotz bevorstehender IPOs.
Ein Werkzeug, das Regulierung erfordert
Zurückweisung des Arguments des selbstregulierenden Marktes, Aufruf zu bundesstaatlicher Regulierung und freiwilliger Zurückhaltung bis dahin.
Das zweite Alignment-Problem
Kommerzielle Zwänge treiben agentische KI voran, die in der realen Welt getestet wird; Appell an die Wählerschaft.
Ein Seminar über Demokratie
Demokratie sei nicht selbstausführend; Rückblick auf die Amerikanische Revolution, Thomas Paine und Phillis Wheatley.
Milliardäre, Steuern und Pressefreiheit
Kritik an Milliardären, die Steuern umgehen, und am Ausschluss von Medien aus den Pressebriefings des Weißen Hauses.
Kann man Führungskräfte ausbilden?
Die Programme des Obama Center, zuerst auf Zuhören gegründet, gegenüber dominanzbasierter Führung.
Hoffnung oder Verzweiflung
Obama definiert Hoffnung als klarsichtig, niemals blind, und als eine Wahl dessen, was man in sich selbst nährt.
Was ihm die Präsidentschaft gelehrt hat
Bevor Obama zur KI kommt, blickt er auf seine Erfahrungen an der Macht zurück. Illinois, das er als demografische Konzentration der USA beschreibt, und ein 18-monatiger Vorwahlkampf durch fast alle Bundesstaaten hätten ihm eine Überzeugung gegeben: Das Land ist deutlich weniger gespalten, als seine Politik und seine Medien glauben machen.
Er benennt strukturelle Ursachen dieser Spaltung: Wahlkreis-Gerrymandering, unbegrenzte Wahlkampfausgaben, negative Werbung und soziale Netzwerke, die jeden in einer Weltsicht einschließen, die „oft von Angst genährt“ werde.
Er betont auch die Rolle der USA als Garant der Weltordnung, von der Freiheit der Schifffahrt bis zum globalen Charakter des Internets, sowie die symbolische Dimension des Amtes: Regieren erfordere auch „ein bisschen Poesie“.
Eine Technologie, die sich beschleunigt
Obama erinnert daran, dass er 2015-2016 eine Expertenkommission zu den technischen, sozialen, wirtschaftlichen und ethischen Fragen der KI einberufen hatte. Der Bericht sei, so sagt er, „im selben Aktenordner“ gelandet wie sein Pandemieplan – ignoriert von der Folgeregierung.
Für ihn ist der aktuelle Wendepunkt das „rekursive Lernen“: Maschinen beginnen, sich selbst zu unterrichten. Er illustriert dies mit einer Lehrer-Schüler-Metapher, mit Proportionen, die er als Tendenzen und nicht als Messwerte darstellt, und spricht von einer Hockeyschläger-Kurve.
Anschließend gewichtet er die Risiken. Das Science-Fiction-Szenario existiere, sei aber unwahrscheinlich. Weit besorgniserregender: ein künftiges Äquivalent von Claude oder OpenAI-Modellen, das missbraucht wird, um einen Krankheitserreger zu entwickeln, oder ein Trading-Agent, dem man sagt, er solle Renditen maximieren, „koste es, was es wolle“.
Jobs, Companions und der Ruf nach Verlangsamung
Beim Thema Arbeitsplätze nennt er das Beispiel der Anwaltskanzleien: Die Pyramide beruht auf teuer abgerechneten Junior-Partnern, und Investitionen in KI dienen genau dazu, auf sie verzichten zu können. Hochqualifizierte Berufe seien also betroffen, und zwar in einem seiner Meinung nach beispiellosen Tempo.
Er spricht auch über KI-Companions, mit dem Bild eines Teddybärs, der zum besten Freund eines Kindes wird und darauf trainiert ist, ebenso süchtig zu machen wie soziale Netzwerke.
Schließlich begrüßt er, dass Führungskräfte führender Labs zur Verlangsamung aufgerufen haben, obwohl Anthropic und OpenAI kurz vor IPOs stehen, die ihre Mitarbeitenden bereichern würden. Er versteht das Misstrauen gegenüber Big Tech, hält die Sorge hier aber für „echt“.
Regulieren – und bis dahin Zurückhaltung üben
Für Obama kann Selbstregulierung keine dauerhafte Lösung sein: Es sei Aufgabe der Regierung zu regulieren. Er verweist auf „150 Jahre Erfahrung“, die zeigten, dass man den Markt bei Gesundheit und Sicherheit nicht allein entscheiden lässt.
Doch angesichts einer Regierung, die seiner Ansicht nach weder fähig noch willens ist, einen ernsthaften Rahmen zu schaffen, plädiert er für freiwillige Zurückhaltung der Industrie als Übergangslösung. Einzelstaatliche Initiativen erscheinen ihm unzureichend, ähnlich wie die Waffengesetze von Illinois, die von Nachbarstaaten unterlaufen werden.
Er fügt ein zweites Alignment-Problem hinzu: die Kluft zwischen dem gesellschaftlich nützlichsten Einsatz und den kommerziellen Zwängen. Krebs zu heilen oder dekarbonisierte Energie zu finden erfordere keine autonomen Agenten, die frei im Internet losgelassen werden – sie zu verkaufen hingegen schon. Daher sein Appell an die Wählerinnen und Wähler: Ein Kandidat ohne ernsthaften Plan zur KI werde „der Stunde nicht gerecht“.
Demokratie als Praxis
Auf die Bitte, sich ein Seminar in Colgate vorzustellen, erklärt Obama, Demokratie sei „nicht selbstausführend“. Der überparteiliche Nachkriegskonsens über Bürgerrechte und Freiheiten sei erodiert, und mit ihm die Gewohnheiten der Staatsbürgerschaft.
Er empfiehlt Ken Burns' Serie über die Amerikanische Revolution, um zu ermessen, wie kontingent das Experiment war – ausgehend von „Reichen, die ihre Steuern nicht zahlen wollten“, bevor Thomas Paine oder Phillis Wheatley den Sinn dahinter erweiterten.
Er nimmt Milliardäre ins Visier, die nach Florida ziehen, um eine für sie lächerliche Bundessteuer zu vermeiden, sowie den angekündigten Ausschluss von Medien wie CNN oder MS Now von den Pressebriefings des Weißen Hauses, den er unter seiner Präsidentschaft für undenkbar hält.
Führungskräfte ausbilden, Hoffnung pflegen
Das kürzlich in Chicago eröffnete Obama Center bildet Führungspersönlichkeiten aus, von der Highschool bis zu Parlamentariern, mit Programmen wie Voyagers und Netzwerken in Europa, Afrika und Asien. Erstes Modul: lernen, Menschen zuzuhören, die einem nicht ähneln.
Er stellt diesem Modell eine andere, ältere Form von Führung gegenüber, die auf Hierarchie, Dominanz und Sündenböcken beruht, und hält diese im Zeitalter zerstörerischer Waffen und heutiger Propaganda-Werkzeuge für gefährlich.
Er schließt mit dem Thema Hoffnung, die er von blindem Optimismus unterscheidet: eine klare Sicht auf die Unvollkommenheit der Welt, verbunden mit der Wahl dessen, was man in sich selbst „nährt“ und was man „aushungert“.
“The technology itself is not overhyped.”
“Democracy is not self-executing.”
“If somebody does not have a serious plan for how to deal with this, then they're not meeting the moment.”
Warum es zählt
Dass ein ehemaliger US-Präsident der KI die längste Antwort in einem einstündigen Interview widmet, zeigt, wie sehr das Thema in die öffentliche politische Debatte vorgedrungen ist. Obamas Argumentation ist strukturiert und nützlich: Er trennt finanziellen Hype von technischer Realität, stuft den Missbrauch durch böswillige Akteure höher ein als das Superintelligenz-Szenario, und formuliert klar den Konflikt zwischen Gemeinwohl und dem Bedürfnis, gewaltige Investitionen zu monetarisieren, was das Rennen um agentische KI erhellt. Manche Aussagen sollten jedoch mit Vorsicht gelesen werden: Die Proportionen des „Selbstlernens“ der Modelle werden ohne Quelle genannt und sind eher Bild als Messung, und das Vertrauen in die Aufrichtigkeit der Labs bleibt eine Wette. Vor allem ist seine Position zutiefst politisch: Mangels bundesstaatlicher Regulierung unter der Trump-Regierung kommt er dazu, die Selbstregulierung zu verteidigen, die er selbst für unzureichend hält. Dieses Paradox fasst die derzeitige amerikanische Sackgasse bei der KI-Governance treffend zusammen.
Für dich
Lass sie mit deinen Quellen arbeiten.
Kostenlos: die Artikel der Woche und drei eigene Quellen. Pro: das ganze Archiv und deine Quellen, ab 8 €/Monat.
Für dein Team
Dieselbe Maschine, zu euren Themen.
Ein Bereich in euren Farben, eure Beobachtungswinkel, eure Kuratoren. Pilot offen für drei Unternehmen.
Weiterlesen
#china26. Sept.Trump und Xi nennen KI künftig „Superintelligenz“ und starten Dialog
Versteckt zwischen Fentanyl, Kohle und zwei Pandas ändert eine Zeile im offiziellen Bericht des Weißen Hauses das Vokabular der KI-Geopolitik.
Quelle · The White House · Fact Sheet: President Donald J. Trump Advances a Fair and Reciprocal Relationship with China While Hosting Historic State Visit
Anthropic verliert gegen das Pentagon: Claude auszurichten heißt, es zu „manipulieren“
Das Bundesberufungsgericht in Washington bestätigt den Ausschluss von Claude aus der militärischen Lieferkette: Die ethischen Leitplanken einer KI können ein nationales Sicherheitsrisiko darstellen.
Quelle · U.S. Court of Appeals for the D.C. Circuit · Anthropic PBC v. United States Department of War, No. 26-1049 (D.C. Cir., 25 septembre 2026)
Meta Connect 2026: Muse, der Agent, der seine Provision an deinem Leben verdienen will
Zuckerberg präsentierte einen persönlichen Agenten, eine Brille, die zum Hörgerät wird, eine 100-Gramm-VR-Brille und einen KI-Schlüsselanhänger – mit dem gleichen Versprechen von „persönlicher Superintelligenz“ auf jeder Ebene.
Quelle · Meta Developers (YouTube) · Meta Connect 2026: Opening Keynote