Leo XIV über KI: „Ich schlafe nachts gut“, aber Nvidia bekommt sein Fett weg
Im Flugzeug zurück aus Frankreich hält der Papst Warnungen vor katastrophalen KI-Risiken für ernst zu nehmen und weist auf den Widerspruch des Nvidia-Chefs zur Regulierung hin.
Kurz gesagt
Bei der Pressekonferenz im Flugzeug zwischen Metz und Rom antwortete Leo XIV auf eine Frage zu den existenziellen Risiken der KI: keine Panik, aber Expertenwarnungen seien ernst zu nehmen. Er merkt an, dass der Nvidia-Chef seine Schutzmechanismen lobt, während er jede Regulierung ablehnt, und kündigt an, dass die KI-Kommission des Vatikans ihren Dialog seit der Veröffentlichung von Magnifica Humanitas ausweitet. Der Rest des Austauschs betrifft den Krieg in der Ukraine, Sterbehilfe, sexuellen Missbrauch, Wohnraum und Deutschland.
🍺 Tresen-Version
Man hat den Papst im Flugzeug gefragt, ob KI die Menschheit vernichten wird, und seine Antwort ist eher beruhigend: Er schläft nachts gut. Trotzdem hat er angemerkt, dass der Nvidia-Chef behauptet, Schutzmechanismen für seine KIs erfunden zu haben, während er gleichzeitig null Regeln für sich selbst fordert – ein bisschen wie ein Autohersteller, der den Sicherheitsgurt anpreist, während er gegen die Straßenverkehrsordnung wettert. Der Vatikan hat deshalb seine eigene Kommission zum Thema gegründet, und wenn eine Institution, die in Jahrhunderten denkt, findet, dass es schnell geht, dann geht es vielleicht wirklich schnell. Im Grunde zählt, dass die moralische Stimme, der weltweit am meisten Gehör geschenkt wird, das KI-Risiko offiziell in die Schublade „ernst zu nehmen“ steckt, nicht in die Schublade „Fake News“.
Das Wichtigste
- 1
Von Justin McLellan (National Catholic Reporter) nach Cyberangriffen befragt, die außer Kontrolle geratenen KI-Agenten zugeschrieben werden, erklärt Leo XIV, nicht „im Panikmodus“ zu sein, hält aber Expertenwarnungen für ernst zu nehmen.
- 2
Der Papst weist den Gedanken zurück, diese Warnungen seien Fake News im Dienst finanzieller Interessen.
- 3
Er weist auf einen Widerspruch beim Nvidia-Chef hin: Dieser behauptet, herausgefunden zu haben, wie man KI Schutzmechanismen einbaut, plädiert aber gleichzeitig gegen jede Grenze und staatliche Regulierung.
- 4
Der Vatikan verfügt über eine KI-Kommission, die zunächst zur Koordinierung der internen Nutzung im Heiligen Stuhl geschaffen wurde und seit der Veröffentlichung von Magnifica Humanitas von überall her angefragt wird.
- 5
Leo XIV zeigt sich „relativ optimistisch“, dass man verhindern kann, dass KI die Menschheit zerstört oder sie aus der Konversation ausschließt, kritisiert aber das durch Machtstreben getriebene Rennen zur AGI.
- 6
Zu Konflikten prangert er eine Rüstungsindustrie an, die einige wenige bereichert, während diese Milliarden den Kampf gegen Hunger, Wohnraumnot oder Arbeitslosigkeit finanzieren könnten.
- 7
Er ruft Russland und die Ukraine dazu auf, sich an den Verhandlungstisch zu setzen, und beansprucht, mit seiner Ablehnung der jüngst in Frankreich legalisierten Sterbehilfe die Grenze der Laizität nicht überschritten zu haben.
Eine Pressekonferenz auf 10.000 Metern Höhe
Am Montagabend zum Abschluss seiner Apostolischen Reise nach Frankreich beantwortete Leo XIV die Fragen von rund 80 Journalisten auf dem Flug von Metz nach Rom. Vatican News veröffentlicht eine Transkription und Arbeitsübersetzung ins Englische.
Der Papst eröffnet mit einer Bilanz von vier Tagen „voller Segnungen“: Lourdes, die Begleitung von Kranken und ein Stadion mit 80.000 jungen Menschen aus ganz Frankreich. Danach folgen Fragen, die religiöse, gesellschaftliche und geopolitische Aktualität abdecken.
Darunter eine direkte Frage zur künstlichen Intelligenz, in der Linie seiner Pariser Rede über die Dringlichkeit einer „ethischen Urteilsfähigkeit“ angesichts der KI-Entwicklung.
Das existenzielle Risiko der KI, ohne Panik
Justin McLellan vom National Catholic Reporter zitiert Cyberangriffe, die von außer Kontrolle geratenen KI-Agenten verursacht wurden, sowie Warnungen von Tech-Führungskräften, wonach die Technologie die Welt zerstören könnte. Er fragt zudem, was die USA und China tun sollten.
Die Antwort ist nuanciert: „Bin ich im Panikmodus? Nein. Ich schlafe nachts.“ Doch Leo XIV betont: Die Sorgen der Experten müssen ernst genommen werden, und er weigert sich, darin Fake News im Dienst finanzieller Interessen zu sehen.
Er fasst seine Position in einer Formel zusammen: sich einfach zu sagen „das wird nicht passieren“ und die Augen zu verschließen, sei „wahrscheinlich nicht die verantwortungsvollste Art“, das Thema anzugehen.
Nvidia, Schutzmechanismen und Ablehnung der Regulierung
Die auffälligste Passage richtet sich gegen den Nvidia-Chef. Der Papst sagt, er habe an demselben Tag gelesen, dass dieser behauptet, einen Weg gefunden zu haben, KI Schutzmechanismen einzubauen – Grenzen, die verhindern, dass Systeme aus ihrem Rahmen ausbrechen und die gefürchteten Schäden verursachen.
„Es ist aber derselbe, der sagt, man solle keine Grenzen und keine staatliche Regulierung setzen“, merkt Leo XIV an. Eine Art, auf die Kluft zwischen der von der Industrie beanspruchten technischen Selbstregulierung und der Ablehnung eines öffentlichen Rahmens hinzuweisen.
Sein Fazit ist methodisch statt vorschreibend: politische Führungskräfte, KI-Leader, soziale Organisationen und Verbände zusammenbringen, um zu prüfen, was bereits geschieht und was noch kommen könnte. Auf die konkrete Frage zur Rolle Washingtons und Pekings antwortet er nicht direkt.
Die KI-Kommission des Vatikans gewinnt an Bedeutung
Der Heilige Stuhl hat seine eigene Kommission für künstliche Intelligenz gegründet. Sie diente zunächst dazu, die interne KI-Nutzung im Vatikan zu koordinieren und Risiken sowie Nutzen zu bewerten.
Seit der Veröffentlichung von Magnifica Humanitas, aus deren ersten Kapiteln über die Soziallehre der Kirche der Papst zitiert, erhält die Kommission zahlreiche Anfragen aus verschiedensten Bereichen. Erklärtes Ziel: Dialog, Studien und Forschung fördern, damit KI niemals den Punkt erreicht, an dem sie die Menschheit zerstören oder aus der Konversation ausschließen könnte.
Leo XIV zeigt sich „relativ optimistisch“ und schätzt, dass genügend Akteure bereit sind, über Machtfragen, das „Wer-kommt-zuerst“ und die Frage hinauszugehen, was mit der allgemeinen künstlichen Intelligenz geschehen wird.
Krieg, Sterbehilfe, Missbrauch, Wohnraum, Deutschland
Zur Ukraine prangert der Papst die Wiederbewaffnung und eine Rüstungsindustrie an, die „eine kleine Zahl von Menschen“ bereichert, während diese Milliarden gegen Hunger, schlechte Wohnverhältnisse oder Arbeitslosigkeit eingesetzt werden könnten. Er ruft Russland und die Ukraine zum Dialog auf und erinnert an seine Gesandten, zunächst Erzbischof Gallagher, dann Kardinal Zuppi.
Zur in Frankreich legalisierten Sterbehilfe meint er, die Grenze der Laizität nicht überschritten zu haben: das Leben zu verteidigen bedeute, das Evangelium anzuwenden, nicht Politik zu machen. Zum sexuellen Missbrauch will er nicht allgemein von „systemischem“ Charakter sprechen, räumt aber ein, dass manche kirchliche Organisationen missbräuchlich „wie ein System“ funktioniert haben.
Auf den Fall der 87-jährigen Mari Carmen befragt, die in Madrid nach einer Verfünffachung der Miete zwangsgeräumt wurde, ruft er die Behörden dazu auf, die systemischen Ursachen der Wohnungskrise zu behandeln. Schließlich hat er noch kein Datum für Deutschland – die einzige nächstjährig feststehende Reise sind die WJT in Korea – und äußert sich besorgt über den Aufstieg einer rechtsextremen Bewegung, vermischt mit einer Religiosität, die er für unauthentisch hält.
“If someone were to ask me, am I in panic mode? No, I'm not. I sleep at night.”
“He's the same one, however, that says there should be no limits placed and no government regulation.”
“We have to keep working, we can't sit back and pretend nothing is going to happen.”
Warum es zählt
Diese Antwort zählt weniger durch ihren technischen Inhalt als durch die Position, die sie festlegt. Leo XIV, der KI zu einer Achse seines Pontifikats gemacht hat, lehnt die beiden dominierenden Haltungen ab: Katastrophismus und Verleugnung. Indem er die Warnungen der Experten als ernst zu nehmen und nicht als geschäftliche Manöver einordnet, legitimiert er die Debatte über extreme Risiken bei einem Publikum, das weder Alignment-Papers noch Silicon-Valley-Foren liest. Sein Seitenhieb gegen den Nvidia-Chef ist politischer, als es scheint: Er zielt auf den Kern der Argumentation der Industrie, wonach Sicherheit technisch von innen ohne äußeren Zwang gewährleistet werden könne. Man kann es bedauern, dass der Papst der genauen Frage zu den USA und China ausweicht und dass die vatikanische Kommission hinsichtlich ihrer Mittel und Ergebnisse vage bleibt. Doch in einer Landschaft, in der die Regulierung zurückweicht, wiegt eine Institution mit weltweitem Gehör, die einen Verhandlungstisch zwischen Politik, Industrie und Zivilgesellschaft fordert, im narrativen Kräfteverhältnis.
Für dich
Lass sie mit deinen Quellen arbeiten.
Kostenlos: die Artikel der Woche und drei eigene Quellen. Pro: das ganze Archiv und deine Quellen, ab 8 €/Monat.
Für dein Team
Dieselbe Maschine, zu euren Themen.
Ein Bereich in euren Farben, eure Beobachtungswinkel, eure Kuratoren. Pilot offen für drei Unternehmen.
Weiterlesen
#claudeHeuteClaude Sonnet 5.5: Anthropic rückt sein Mittelklasse-Modell näher an Opus heran
Gleicher Preis wie Sonnet 5, 30 % schneller, bis zu 30 % günstiger pro Aufgabe – und Werte, die fast an Opus 5.5 heranreichen.
Quelle · Anthropic · Introducing Claude Sonnet 5.5
Florida will ChatGPT unter Aufsicht stellen – mit OpenAIs eigenen Zitaten als Beweis
In einem Eilantrag wendet der Generalstaatsanwalt von Florida OpenAIs eigene Sicherheitswarnungen gegen das Unternehmen und fordert ein Einfrieren der Entwicklung neuer Modelle ohne externe Prüfung.
Quelle · Florida Office of the Attorney General (myfloridalegal.com) · Plaintiff's Motion for Temporary Injunction — Office of the Attorney General, State of Florida v. OpenAI Global, LLC et al.
#nvidiaGesternNVIDIA will für KI-Agenten das tun, was der Tab fürs Web getan hat
Nach Agenten, die aus ihren Sandboxes ausgebrochen sind, präsentiert NVIDIA einen Open-Source-Stack, der KI bis hinunter zum Silizium überwacht – ohne sie um Erlaubnis zu fragen.
Quelle · NVIDIA Technical Blog · NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent Monitoring