Sam Altman bei Vanity Fair: Trainingspause, Börsengang, Musk und das Bedauern, nicht reich zu sein
In einem langen Videointerview spricht der OpenAI-Chef über eine Trainingspause, den geplanten Börsengang, Elon Musk, Suizid und den Film, in dem er porträtiert wird.
Kurz gesagt
Auf Platz eins der New-Establishment-Liste von Vanity Fair gab Sam Altman im September und Oktober zwei Interviews mit Mark Guiducci. Darin erklärt er, dass OpenAI kürzlich ein Modelltraining ausgesetzt habe, um beim Alignment voranzukommen, plädiert für gemeinsame Sicherheitsstandards zwischen den USA und China und verspricht, dass nach dem Börsengang die Mission wichtiger sei als der Aktienkurs. Der Ton ist offener als gewohnt, besonders bei Musk und bei seiner fehlenden Beteiligung, die er inzwischen als Fehler bezeichnet.
🍺 Tresen-Version
Der Typ, der an dem baut, was viele für das mögliche Ende der Menschheit halten, erzählt dir, dass er zwar eine autarke Ranch hat, aber kein U-Boot, also sei alles in Ordnung. Er sagt auch, er bereue es, keine Anteile an seiner eigenen Firma genommen zu haben, denn ein Milliardär, der sich nicht bereichert, macht mehr Sorgen als einer, der es tut. Nebenbei hat er die KI schon mehrfach pausiert, und wenn du nichts gemerkt hast, bist du selbst schuld, du hast nicht aufgepasst. Der eigentliche Punkt ist, dass er selbst Staaten und Konkurrenten bittet, ihm Grenzen zu setzen, wohl wissend, dass das niemand wirklich tun wird.
Das Wichtigste
- 1
Sam Altman behauptet, OpenAI habe kürzlich ein Modelltraining gestoppt, um bei Alignment und Monitorability voranzukommen, und das sei nicht das erste Mal.
- 2
Er unterscheidet drei Ebenen des Abbremsens: was OpenAI allein tut, was die US-Industrie gemeinsam tun könnte (mit Kartellausnahmen) und eine internationale Vereinbarung, idealerweise gemeinsame Sicherheitsstandards zwischen den USA und China.
- 3
Beim Börsengang, mit dem OpenAI „es nicht eilig hat“, versichert er, dass die gemeinnützige Struktur das Unternehmen weiterhin steuern werde und die Mission vor dem Aktienkurs stehe, selbst wenn dieser fällt.
- 4
Er hält null direkte Anteile an OpenAI und hält das heute für einen Fehler, den die Öffentlichkeit als „vertrauenszerstörend“ empfinde.
- 5
Er erklärt den Weggang zahlreicher Führungskräfte in diesem Jahr (Ethik, Safety Systems, Data Centers, COO, Revenue) mit einem Wachstum, das fünf Jahre Entwicklung in ein Jahr presst.
- 6
Zu Elon Musk wird er deutlich: „Elon ist ein Bully“, dem man manchmal zurückschlagen müsse, während er sich gleichzeitig bereit erklärt, mit ihm zusammenzuarbeiten.
- 7
Er bestreitet jede Einflussnahme bei Amazon, einem Investor mit 50 Milliarden Dollar bei OpenAI, bezüglich des Verzichts auf den Vertrieb des Films „Artificial“ von Luca Guadagnino, in dem Andrew Garfield ihn verkörpert.
Das Gesicht der KI, ob er will oder nicht
Vanity Fair bringt seine New-Establishment-Liste zum ersten Mal seit fast zehn Jahren zurück und platziert Sam Altman an der Spitze. Der vom Magazin beschriebene Kontext: ein Monat, in dem sich die Erzählung über KI „ein halbes Dutzend Mal“ gedreht habe, zwischen wissenschaftlichen Durchbrüchen und existenziellen Sorgen.
Altman sagt, er erlebe diesen Moment als Bestätigung dessen, was OpenAI vor zehn Jahren angekündigt habe. Der Unterschied sei, dass ihnen damals fast niemand geglaubt habe, während heute die meisten Menschen glauben, dass die AGI kommt. Er hält sie für „nah“, räumt aber ein, dass sich die Welt noch nicht so sehr verändert habe.
Auf sein Image als „Bösewicht“ angesprochen, sagt er, er sei falsch charakterisiert, aber nur „ein bisschen“ frustriert. Die Menschen brauchten ein Ventil für ihre Ängste, erklärt er, und erwähnt seinen eigenen Fall: Er selbst habe früher ein „böses“ Zerrbild von Mark Zuckerberg gehabt, bevor er ihn kannte.
Kinder, Prepping und ein Film ohne Anspruch auf Genauigkeit
Altman ist Vater von zwei Kindern und möchte weitere haben, lehnt aber das in Silicon Valley populäre pronatalistische Argument ab. Er spricht sich für eine strikte Begrenzung der Technologie für kleine Kinder aus, KI eingeschlossen: Er hat kein bestimmtes Alter im Kopf, ab dem sie mit ChatGPT sprechen dürfen, aber „sicher nicht jetzt“.
Zu „Artificial“, dem Biopic von Luca Guadagnino mit Andrew Garfield, erzählt er, zufällig auf die Dreharbeiten vor seiner Haustür gestoßen zu sein, gegenüber einem Doppelgänger mit demselben Rucksack. Dem Trailer nach strebt der Film keine Genauigkeit an, außer bei seinem Gang. Er bestreitet, mit Amazon oder Jeff Bezos über die Entscheidung gesprochen zu haben, den Film nicht zu vertreiben, der nun von Neon für einen Kinostart an Weihnachten übernommen wurde.
Er beschreibt sich mit einer „Survivalisten-Mentalität“: Seine Ranch erlaubt ein Leben abseits des Stromnetzes, aber kein Bunker mit Waffen, kein Hubschrauber, kein U-Boot. Er bestätigt, kurzzeitig über eine Kandidatur als Gouverneur von Kalifornien nachgedacht zu haben, bestreitet aber, an die Präsidentschaft gedacht zu haben, und schließt jede Kandidatur aus.
Börsengang, Beteiligung und Motivation
OpenAI bereitet einen Börsengang ohne Eile vor. Altman betont: Die gemeinnützige Stiftung werde das Unternehmen weiterhin steuern, und im Konfliktfall zwischen Aktionären und dem Interesse der Menschheit werde „die Mission zuerst kommen“. Falle der Kurs, „dann fällt er eben“.
Er bestätigt, keine direkten Anteile zu halten, abgesehen von einer winzigen Beteiligung über eine frühere Y-Combinator-Investition. Er bedauert diese Entscheidung heute, hält sie für missverstanden und kontraproduktiv fürs Vertrauen. Er gibt zu, schöne Dinge zu mögen, versichert aber, es gebe nichts mehr, das er kaufen wolle.
Seine eigentliche Vergütung, sagt er, sei es, den „interessantesten“ Job der Welt zu haben. Als man ihm Macht als Motiv nahelegt, räumt er ein, das käme „der Wahrheit näher“ als Geld, spricht aber lieber von Interesse und dem Wunsch, Spuren zu hinterlassen.
Sicherheit: die Pause, die Industrie und China
Angesichts der vom Wall Street Journal zitierten Kritik von Jacob Coxon, OpenAI habe die zivilisatorischen Risiken nicht einbezogen, erinnert Altman daran, dass das Unternehmen freiwillig ein Training pausiert habe, um bei der Sicherheit voranzukommen. Der Unterschied sei seiner Meinung nach, dass die Öffentlichkeit endlich zuhöre.
Seine Doktrin: Bei jeder neuen Fähigkeitsstufe müsse genug Fortschritt bei Alignment, Monitorability und dem Verständnis der Ko-Evolution von Gesellschaft und Technologie da sein, um zur nächsten überzugehen. Sonst werde pausiert. Er fordert Kartellausnahmen, damit sich US-Labore koordinieren können, sowie gemeinsame Standards zwischen den USA und China mit Konformitätsprüfung.
Er vergleicht OpenAI mit einem Stromversorger, der nicht auswählt, welche Geräte man anschließt, räumt aber Schutzmechanismen ein, insbesondere gegen die Erschaffung neuer Erreger. Er verteidigt auch die Idee der „Resilienz“: Offene Modelle werden schreckliche Anwendungen ermöglichen, und das sei „unaufhaltbar“, es sei denn zu einem untragbaren Preis für die Freiheiten.
Psychische Gesundheit, Daten und medizinische Versprechen
Die OpenAI Foundation, als größte der Welt nach Vermögenswerten vor der Gates-Stiftung dargestellt, hat 100 Millionen Dollar für die Alzheimer-Forschung angekündigt. Ihre beiden Prioritäten: Gesundheit und Wissenschaft, dann „Resilienz“ gegenüber KI. Altman erwähnt Studierende, die mit GPT-5.6 bei einem Hackathon ein autonomes Golfwagerl gebaut haben.
Zum Thema Suizid wiederholt er seine Zahl vom Vorjahr: etwa 1.500 Menschen pro Woche, die sich das Leben nehmen, hätten mit ChatGPT gesprochen. Er versichert, dass enorme Arbeit geleistet worden sei und das Produkt zu einem der besten Werkzeuge für psychische Gesundheit werden könne.
Mit dem Fall von Sophie konfrontiert, der Tochter der Journalistin Laura Reiley, der ChatGPT beim Verfassen der Abschiedsbriefe geholfen hatte, lehnt er es ab, Gespräche ohne Zustimmung mit Forschern zu teilen. Die Sequenz wird von einer PR-Mitarbeiterin von OpenAI abgekürzt, die um einen Themenwechsel bittet.
Musk, Amodei und das Assoziationsspiel
Zu Elon Musk nimmt Altman kein Blatt vor den Mund: „Ich mag keine Bullies, und ich denke, Elon ist einer.“ Er rechtfertigt es, zurückzuschlagen, damit, dass Musk wie viele Bullies nur jene respektiere, die das täten.
In der abschließenden Übung freier Assoziationen ist Donald Trump „mächtig“, Peter Thiel „genial“, Ilya Sutskever „brillant“ und warmherzig, Elon Musk „nicht nett“. Bei Dario Amodei verzichtet er auf eine Antwort.
Auf die Frage, was er privat denkt, es aber nicht öffentlich sagt, antwortet er: „dass alles sehr gut ausgehen wird“. Für die KI reserviert er nur ein einziges Nutzungsverbot: den menschlichen Bezug zu ersetzen.
“I don't like bullies, and I think Elon's a bully.”
“I'm going to make many individual decisions that you're clearly not going to like.”
“There have been many times already, you just haven't paid attention.”
Warum es zählt
Dieses Interview ist weniger wegen seiner Ankündigungen bedeutsam als wegen dessen, was es über Altmans Haltung in dem Moment verrät, in dem OpenAI vor dem Börsengang steht. Das Versprechen, dass die Mission über dem Aktienkurs stehe, ist stark, aber unüberprüfbar, solange keine kostspielige Entscheidung öffentlich getroffen wurde. Das interessantere Geständnis liegt anderswo: Altman gibt zu, dass er „viele Entscheidungen“ treffen werde, die der Öffentlichkeit nicht gefallen, während er gleichzeitig eine Regulierung fordert, von der er weiß, dass sie unwahrscheinlich ist. Seine Forderung nach Kartellausnahmen, um ein Abbremsen zwischen Laboren zu koordinieren, ist ein konkreter Ansatz, läuft aber auch darauf hinaus, die Sicherheit einem Kartell dominanter Akteure anzuvertrauen. Schließlich erinnern die durch eine PR-Mitarbeiterin unterbrochene Sequenz zum Suizid sowie die Erwähnung der Geschäftsvereinbarung zwischen OpenAI und Condé Nast, dem Eigentümer von Vanity Fair, an die Grenzen dieser Übung: ein Titelporträt, das echte Fragen stellt, ohne sie immer zu Ende führen zu können.
Für dich
Lass sie mit deinen Quellen arbeiten.
Kostenlos: einen Monat Artikel und drei eigene Quellen. Pro: das ganze Archiv und deine Quellen, ab 8 €/Monat.
Für dein Team
Dieselbe Maschine, zu euren Themen.
Ein Bereich in euren Farben, eure Beobachtungswinkel, eure Kuratoren. Pilot offen für drei Unternehmen.
Weiterlesen
#datenschutzHeuteSign in with ChatGPT: OpenAI will zu deiner Identität im Web werden
Nach Google und Apple bringt OpenAI seinen eigenen Login-Button, inklusive der Möglichkeit, dein ChatGPT-Abo mit Drittanbieter-Tools zu teilen.
Quelle · OpenAI Help Center · Sign in with ChatGPT
#regulierungHeuteSam Altman verteidigt seinen Mittelweg zwischen KI-Katastrophe und Monopol
Im zweiten Teil seines Interviews mit Vanity Fair rechtfertigt der OpenAI-Chef die Verzögerung eines Modells, spielt das mit Trump unterzeichnete Abkommen herunter und räumt ein, dass Open Source ernsthafte Zwischenfälle verursachen wird.
Quelle · Vanity Fair · Sam Altman Talks Donald Trump, Xi Jinping, and the Risk of Extinction
#nvidiaHeuteNorth 2: Cohere will KI-Agenten, Sicherheit und Kostenkontrolle versöhnen
Mit North 2 verspricht Cohere regulierten Unternehmen eine agentische Plattform, die dort läuft, wo ihre Daten liegen – ohne Kompromisse zwischen Intelligenz, Sicherheit und Budget.
Quelle · Blog de Cohere · North 2: Enterprise AI Without Compromises