Cybersicherheit: Kalifornien stellt OpenAI eine Vorladung zu

Was gerade passiert ist

Der Generalstaatsanwalt von Kalifornien, Rob Bonta, hat OpenAI eine Vorladung zugestellt. Es handelt sich um eine verbindliche Ermittlungsmaßnahme: Das Unternehmen muss Antworten und möglicherweise Dokumente an das California Department of Justice liefern.

Die Pressemitteilung verknüpft diesen Schritt mit einer laufenden Untersuchung zu „Vorfällen“, die aus dem Betrieb von OpenAI und seinen KI-Modellen resultieren. Im Fokus steht explizit die Cybersicherheit: vergangene Vorfälle und Risiken im Zusammenhang mit dem Unternehmen und seinen Modellen.

Der Text erinnert daran, dass im Vormonat eine formelle Untersuchung zum „Hugging-Face-Vorfall“ angekündigt wurde. Die Pressemitteilung präzisiert weder dessen Art noch den genauen Zusammenhang mit OpenAI, was den Leser bezüglich des Kerns der Angelegenheit im Unklaren lässt.

Bontas rechtliche These

Die Erklärung des Generalstaatsanwalts formuliert ein klares Prinzip. Frontier-Modelle können legitime Werkzeuge der Cyberabwehr sein, aber ihre Entwickler müssen sicherstellen, dass sie keine Cyberangriffe „begehen oder ermöglichen“.

Bemerkenswert ist der zeitliche Rahmen: Die Verantwortung erstreckt sich ebenso auf die Test- und Entwicklungsphase wie auf den Betrieb. Mit anderen Worten: Was hinter den Kulissen eines Labs vor jeder öffentlichen Markteinführung geschieht, fällt ebenfalls in den Bereich der Untersuchung.

Bonta fügt hinzu, dass Entwickler, die hier versagen, „können und sollten“ rechtlich zur Verantwortung gezogen werden. Sein Büro erklärt, herausfinden zu wollen, ob dies bei OpenAI der Fall ist. Es handelt sich also noch nicht um eine Anklage, sondern um eine mögliche belastende Überprüfung.

Eine kohärente kalifornische Offensive

Diese Vorladung steht nicht für sich allein. Im selben Monat schrieben Bonta und eine überparteiliche Koalition von Generalstaatsanwälten an den Kongress und forderten eine sofortige Regulierung großer Modelle und ihrer Entwickler, unter Verweis auf kritische Cybersicherheitsvorfälle bei mehreren Frontier-Labs sowie Warnungen von Insidern zum Entwicklungstempo.

Im Januar hatte der Generalstaatsanwalt eine Untersuchung zur massenhaften Verbreitung nicht einvernehmlicher sexueller Inhalte auf X eröffnet, die mit Grok, dem Modell von xAI, erstellt wurden. Im Vorjahr hatte er zwei Rechtsgutachten zu den Pflichten von Unternehmen veröffentlicht, die KI einsetzen, und 12 große Unternehmen der Branche angeschrieben, nachdem unangemessene Interaktionen zwischen Chatbots und Kindern gemeldet worden waren.

Das DOJ erklärt sich zudem bereit, zwei kürzlich verabschiedete Gesetze ab ihrem Inkrafttreten durchzusetzen: SB 1119 zur Sicherheit von Kindern gegenüber Begleiter-Chatbots und SB 867 zu Spielzeug mit integriertem Chatbot.

Das Kräftemessen mit Washington

Die Pressemitteilung endet mit einer bewusst politischen Note. Bonta betont seinen Widerstand gegen den „ersten, zweiten und dritten“ Versuch der Bundesregierung, Bundesstaaten an der Regulierung von KI zu hindern.

Er präsentiert Kalifornien als Verteidiger des Rechts der Bundesstaaten, ihre Bürger gegenüber der Trump-Administration zu schützen. Die Untersuchung gegen OpenAI wird so auch zu einer Machtdemonstration: Sie soll zeigen, dass Bundesstaaten über konkrete Instrumente verfügen, hier das Ermittlungsrecht, auch ohne Bundesgesetz.