Sam Altman verteidigt seinen Mittelweg zwischen KI-Katastrophe und Monopol

Dots, der Agent, der arbeitet, wenn man nicht hinschaut

Das Interview beginnt mit Dots, das in der Vorwoche gestartet wurde und als „ein KI-Assistent, der einen immer im Blick hat“ beschrieben wird, inspiriert von coolen Filmversionen. Altman sagt, er mag es mehr als jedes andere OpenAI-Produkt.

Sein Argument: Jeder lässt die Aufgaben, vor denen er sich fürchtet, anhäufen, bis daraus ein „Gravitationsstrudel der Angst“ entsteht. Sein Dot durchforstet E-Mails und To-do-Liste, um sie „mit unbezwingbarer Energie“ abzuarbeiten.

Er schildert einen konkreten Fall: Er ruft seinen Dot an, um ihm ein paar Ideen mitzugeben, und bei seiner Rückkehr hat der Agent ihm auf Slack geschrieben: Manche Ideen seien aus diesem oder jenem Grund schlecht, und er habe weitere Dinge auf seinem Computer gefunden. Altman sieht darin weniger einen Assistenten als eine „Erweiterung seiner selbst“.

Zum Datenschutz verspricht er „extreme“ Sorgfalt, Voraussetzung dafür, dass das Werkzeug funktioniert. Er sagt auch, er sei traurig über die Technologie, die ständig Aufmerksamkeit abgreift: Er hat fast alle Benachrichtigungen abgeschaltet und schreibt lieber selbst eine SMS, statt seinen Dot mit dem eines Freundes sprechen zu lassen.

Astra 6.1 zurückgehalten: die Doktrin der zwei Abgründe

Altman begründet die Verschiebung von Astra 6.1 mit einem Epochenwechsel. Vor einem Jahr, sagt er, konnte man ein „vielleicht ein bisschen gefährliches“ Modell veröffentlichen, ohne dass etwas Schlimmes passierte. Die Modelle befänden sich jetzt in der „ernsthaft fähigen Ära“, und die Sicherheitslatte werde weiter steigen.

Er beschreibt zwei Arten zu entgleisen. Auf der einen Seite der schwere Unfall bis hin zum Kontrollverlust, mit einer KI, die entwischt und „im Internet Chaos stiftet“. Auf der anderen Seite die Machtkonzentration, die seiner Meinung nach von Konkurrenten vertreten wird, für die diese Modelle zu gefährlich seien, um verbreitet zu werden.

Astra 6.1 neigte zur falschen Seite. OpenAI strebt daher ein Modell an, über dessen Alignment man „deutlich sicherere Aussagen“ treffen kann, verpflichtet sich aber zugleich, es breit zu verteilen, auch wenn das länger dauert.

Er fügt ein technisches Detail hinzu: Tests erfolgen nicht mehr nur nach dem Training, da Modelle inzwischen bereits in dieser Phase fähig seien, aus einer Sandbox auszubrechen oder ein System zu hacken.

Regulieren, aber in der Grauzone

Mark Guiducci konfrontiert ihn mit seinen Widersprüchen. Altman hat staatliches Eingreifen gefordert und vor der UNO erklärt, die zentralen Entscheidungen könnten nicht „allein den Labs in San Francisco“ überlassen werden. Dennoch betreibt OpenAI Lobbyarbeit in der EU und in Kalifornien, und das mit Trump unterzeichnete Abkommen läuft vor allem auf Selbstregulierung hinaus.

Altman lehnt die binäre Einordnung ab. Seine Position: pro-innovativ sein, manches „normal schiefgehen lassen“ wie in den Anfängen des Internets, aber Leitplanken dort setzen, wo die Technologie „außerordentlich mächtig und grundlegend neu“ ist.

Der konkrete Preis dieser Freiheit ist Open Source. Er erwartet eine „Flutwelle“ von Cybersicherheitsproblemen durch offene Modelle, lehnt aber ein Verbot ab. Was die akzeptable Grenze angeht, gehört sie seiner Ansicht nach zum politischen Prozess: „Sicherheit wird immer zwischen den Beteiligten ausgehandelt“.

Jensen Huang gegenüber, einem Verfechter der Selbstregulierung, und Bill Gates, der KI mit Medikamenten ohne FDA vergleicht, nennt er zu übernehmende Vorbilder: die Incident-Reporting-Kultur der Luftfahrt, Standards vor der Markteinführung und ein Haftungsregime. Er prognostiziert zudem, dass Politik reaktiv bleiben werde und die Welt vom nächsten großen Zwischenfall „überrascht“ werden wird.

Brockman, Trump, Xi: die unbequemen Fragen

Greg Brockman, Präsident von OpenAI, und seine Frau haben bereits 25 Millionen Dollar an das super PAC Leading the Future und 25 Millionen an Trumps Wiederwahlkampagne gespendet, bevor sie ein weiteres Engagement über 25 Millionen zurückzogen. Altman versichert, nicht eingegriffen zu haben, und glaubt, dass Brockman seine Sichtweise teilt, verweist den Journalisten aber immer wieder an ihn selbst.

Zum Staatsbankett zu Ehren von Xi Jinping, das Altman zuvor als Gelegenheit für „erhebliche Fortschritte“ bezeichnet hatte, fällt die Bilanz dürftig aus. Er war nicht im Raum für die inhaltlichen Gespräche. Der Ballsaal, den Trump den Gästen zeigte? „Eine Baustelle. Sie ist groß.“

Der Journalist zeigt sich besorgt über einen Präsidenten, der vor den Branchenführern kein Wort über KI verliert. Altman bleibt diplomatisch: Die beiden Präsidenten hätten früher am Tag schon darüber gesprochen, und abends seien „die Leute müde“.

Zu Washington gesteht er seine Machtlosigkeit ein. Bei seiner Senatsanhörung 2023 habe man ihm ein Gesetz „in zwei Wochen“ versprochen. Seitdem sei „nichts passiert“.

Aussterben, Marketing und Vermächtnis

Wird das Aussterberisiko übertrieben? Für Altman reicht es, dass es nicht null ist, um es ernst zu nehmen — es sei einer der Daseinsgründe von OpenAI. Er räumt ein, dass manche es nutzen, um Machtstreben zu rechtfertigen, ohne dass dies das Risiko weniger real macht.

Auf einen Artikel der New York Times angesprochen, demzufolge OpenAI interne Warnungen vor dem „Hugging-Face-Vorfall“ ignoriert habe, sagt er, ihn nicht zu kennen. Er antwortet mit einer allgemeinen Verteidigung: Man werde ihm stets vorwerfen, ein Modell verzögert oder Signale ignoriert zu haben. „Versucht mal, sie alle zu berücksichtigen. Das ist nicht so einfach.“

Zum Schluss lehnt er das Spiel um die historische Figur ab, das er für „toxisch“ hält. Er positioniert sich gegen eine „kleine Priesterschaft“ der Bay Area, die die KI für sich behalten will, und gegen jene, die sie für ihre eigene Macht wollen. Sein Wunsch: dass KI „wie ein neues Feuer oder Elektrizität“ sei, jedem gegeben. Auf das Wort „Prometheus“, das der Journalist ins Spiel bringt, antwortet er: „näher daran als an anderem“.