Kalifornien: Newsom unterzeichnet 13 KI-Gesetze, von Personalwesen bis Gen-Synthese-Laboren
Kündigungen per Algorithmus, Überwachung am Arbeitsplatz, Deepfakes, synthetische DNA: Sacramento türmt weiter Schutzmaßnahmen auf, während Washington wegschaut.
Wer darüber berichtet
Aufgegriffen von 40 Medien · 6 erstrangig · 6 Tech · 10 Foren · 30 Social-Posts
Kurz gesagt
Am 30. September 2026 unterzeichnete Gavin Newsom dreizehn KI-Gesetze, die Arbeit, Gesundheit, Inhaltstransparenz, Deepfakes und Biosicherheit betreffen. Sie reihen sich in ein seit 2023 wachsendes Regelwerk ein, das jüngst durch die Zertifizierung unabhängiger Prüfer verstärkt wurde. Kalifornien positioniert sich damit faktisch als Regulierer der amerikanischen KI, während es der Bundesregierung Untätigkeit vorwirft.
🍺 Tresen-Version
Kurz gesagt hat Kalifornien jetzt schwarz auf weiß festgehalten, dass ein Algorithmus dich nicht einfach allein feuern darf, dass man die Bürotoiletten nicht filmt und dass ein Anwalt seine Schriftsätze trotzdem selbst verfassen muss. Dinge, die eigentlich selbstverständlich klingen, aber offenbar brauchte es dafür ein Gesetz – so als müsste man daran erinnern, dass man die Gabel nicht in den Toaster steckt. Nebenbei unterschreibt Newsom auch noch ein Dekret, das offiziell festlegt, dass künstliche Intelligenz „künstliche Intelligenz“ heißt – was vor allem wie ein deutlicher Seitenhieb Richtung Washington wirkt. Und da dort OpenAI, Google und Anthropic zuhause sind, wird das, was in Sacramento beschlossen wird, oft zur Regel für alle.
Das Wichtigste
- 1
SB 947 verbietet Arbeitgebern, sich bei einer Disziplinarmaßnahme oder Kündigung allein auf KI zu stützen: ein Mensch muss die Entscheidung gegenprüfen.
- 2
SB 951 verpflichtet Arbeitgeber, zu melden, wenn ein Massenentlassung, eine Verlagerung oder eine Vertragsauflösung durch ein KI-System verursacht wird.
- 3
AB 1331 und AB 1883 regeln die Überwachung am Arbeitsplatz, darunter ein Verbot jeglicher Überwachungstechnik in Firmentoiletten.
- 4
SB 574 verbietet Anwälten, den Kern ihrer Tätigkeit, etwa das Verfassen von Schriftsätzen oder juristische Bewertungen, vollständig an KI zu delegieren.
- 5
Im Gesundheitswesen sichern AB 1979 und SB 503, dass Ärzte das letzte Wort gegenüber klinischen Entscheidungshilfe-Tools behalten, deren Entwickler bekannte Verzerrungen reduzieren müssen.
- 6
AB 2713 verbietet das Entfernen digitaler Wasserzeichen und erleichtert den Zugang zu Metadaten, um KI-generierte von menschlichen Inhalten zu unterscheiden.
- 7
AB 1864 verpflichtet Unternehmen für Gensynthese, ihre Kunden zu überprüfen und versandtes genetisches Material zu kontrollieren, etwa bei Forschung zu Polio oder Ebola.
Arbeit an vorderster Front
Das Herzstück des Pakets betrifft Arbeitnehmer. SB 947, eingebracht von Senator Jerry McNerney, verbietet es, eine Sanktions- oder Kündigungsentscheidung allein der KI zu überlassen. SB 951 ergänzt eine Transparenzpflicht: Wenn ein Sozialplan oder eine Standortverlagerung aus einem KI-System resultiert, muss der Arbeitgeber dies offenlegen.
AB 1331 und AB 1883 gehen gegen die algorithmische Überwachung von Beschäftigten vor, mit einer symbolischen Maßnahme: kein Überwachungstool in den Toiletten. AB 2392 verlangt von öffentlichen Universitäten, Studierende, Lehrkräfte und Personal zu KI und deren Beschaffung zu schulen.
SB 574 zielt auf juristische Berufe: Anwälte, Schiedsrichter und Richter dürfen das Verfassen oder Urteilen nicht vollständig an KI auslagern. Der kalifornische Gewerkschaftsdachverband AFL-CIO lobt durch Lorena Gonzalez vier „first-in-the-nation“-Texte.
Gesundheit: Der Arzt behält die Kontrolle
Zwei Gesetze, AB 1979 (Mia Bonta) und SB 503 (Akilah Weber Pierson), regeln den Einsatz von KI in der Pflege. Sie sichern approbierten Ärzten und Pflegekräften das Recht, ihr eigenes fachliches Urteil auszuüben, auch wenn ein klinisches Entscheidungshilfe-Tool genutzt wird.
Entwickler solcher Tools müssen zudem „angemessene Maßnahmen“ ergreifen, um bekannte oder vorhersehbare Verzerrungen bei deren Nutzung zu reduzieren. Eine flexible Formulierung, die viel Interpretationsspielraum lässt.
Transparenz, Deepfakes und Biosicherheit
Auf Seiten der Inhalte stärken AB 2713 und SB 1000 den California AI Transparency Act: Verbot, digitale Wasserzeichen zu entfernen, Zugang zu Herkunftsmetadaten. Ein weiterer Bereich legt fest, dass öffentliche Kommentare bei Sitzungen lokaler Gebietskörperschaften von echten Personen stammen müssen, nicht von Bots.
SB 1111 aktualisiert das Zivil- und Strafrecht zu Identitätsmissbrauch und digitalen Abbildern, einschließlich expliziter Inhalte, die ohne Zustimmung erzeugt wurden.
Überraschender zielt AB 1864 auf Biosicherheit: Unternehmen für Gensynthese müssen Sicherheitsrichtlinien befolgen, die Identität ihrer Kunden prüfen und kontrollieren, was sie versenden.
Ein bewusst aufgetürmtes Regelwerk
Diese Gesetze fügen sich in eine Strategie ein, die 2023 mit dem Dekret zur generativen KI begann. 2025 verpflichtete SB 53 Entwickler von Frontier-Modellen bereits dazu, ihre Sicherheitsrahmen zu veröffentlichen, kritische Vorfälle zu melden und Whistleblower zu schützen.
Diesen Monat schuf SB 813 einen Rahmen zur Zertifizierung unabhängiger Prüfstellen, und AB 1405 ein Register von KI-Auditoren. Ein Dekret beauftragte anschließend eine Expertengruppe, innerhalb von zwei Monaten eine Verschärfung der Sicherheitsgesetze vorzuschlagen.
Zu den geprüften Optionen gehört, die Erstellung von Sicherheitsplänen für Frontier-Modell-Unternehmen unabhängigen Dritten zu übertragen und einen „Kill Switch“ für diese Modelle vorzuschreiben. Die Pressemitteilung erinnert zudem an Adam's Law zu KI-Begleit-Chatbots für Kinder sowie an das fünfjährige Verbot von Spielzeug mit solchen Chatbots.
Die Spitze gegen Washington
Die Mitteilung beginnt mit einem Dekret, das „das Offensichtliche feststellt“: Künstliche Intelligenz wird in Kalifornien künftig offiziell „Artificial Intelligence“ genannt. Eine ironische Inszenierung, ganz im Stil von Newsoms offensiver Kommunikation.
Die politische Botschaft ist in dem Zitat des Gouverneurs explizit: Superintelligenz „wird nicht aus dem Weißen Haus kommen“. Kalifornien präsentiert sich als die einzige Ebene, die in den USA tatsächlich KI reguliert.
“Super intelligence is clearly not coming from the White House – that's why California continues to lead. — Gavin Newsom”
“AI should expand opportunity – not come at the expense of workers and families. — Gavin Newsom”
“By signing these four first-in-the-nation bills, Governor Newsom has shown the country how we can begin to put guardrails on AI at work. — Lorena Gonzalez, California Federation of Labor Unions”
Warum es zählt
Kalifornien beherbergt den Großteil der führenden KI-Labore, was seinen Gesetzen eine Reichweite weit über die eigenen Grenzen hinaus verleiht: ein „Sacramento-Effekt“, vergleichbar mit dem Brüssel-Effekt der DSGVO. Dieses Paket verschiebt den Fokus von der Modellsicherheit hin zu konkreten Anwendungen – am Arbeitsplatz, im Krankenhaus, vor Gericht, dort, wo KI bereits das Leben der Menschen berührt. Das Leitprinzip ist klar: Ein Mensch muss für die endgültige Entscheidung verantwortlich bleiben. Es bleiben zwei Grenzen. Erstens öffnen viele Formulierungen ("angemessene Maßnahmen", "sich allein auf KI stützen") die Tür zu einer Scheinkonformität, bei der ein Mensch mechanisch absegnet, was der Algorithmus vorschlägt. Zweitens nährt die Vermehrung bundesstaatlicher Gesetze das Argument der Industrie für eine bundesweite Vorrangregelung, und der offen politische Ton der Mitteilung, wenige Monate vor Wahlterminen, erinnert daran, dass die KI-Regulierung für Newsom auch ein nationales Positionierungsfeld ist. Der strukturell bedeutsamste Teil könnte dabei das daneben angekündigte Vorhaben sein: verpflichtende Drittaudits und ein Kill Switch für Frontier-Modelle.
Kostenloses Konto
Sie haben gerade einen Artikel von AI Sources gelesen
Erstellen Sie ein kostenloses Konto: ein Monat Archiv in voller Länge, Ihre eigenen Quellen zusammengefasst wie diese, Ihre Notizen und Markierungen.
Für dich
Lass sie mit deinen Quellen arbeiten.
Kostenlos: einen Monat Artikel und drei eigene Quellen. Pro: das ganze Archiv und deine Quellen, ab 8 €/Monat.
Für dein Team
Dieselbe Maschine, zu euren Themen.
Ein Bereich in euren Farben, eure Beobachtungswinkel, eure Kuratoren. Pilot offen für drei Unternehmen.
Weiterlesen
#geminiHeuteGemini 4 Argon: Google veröffentlicht sein stärkstes Modell – aber zuerst an Verteidiger
Google kündigt ein Frontier-Modell an, das Kernels in Rust umschreibt und Sicherheitslücken aufspürt, hält es aber unter Verschluss, bis die Schutzmechanismen stehen.
Quelle · Le blog de Google (The Keyword) · Gemini 4 Argon: our next era of frontier intelligence
#evaluationHeuteEin LLM zu steuern hat seinen Preis: Apple misst, wie teuer Steering die Textflüssigkeit macht
Eine Studie von Apple und der Universitat Pompeu Fabra zeigt, dass die wirksamsten Kontrollmethoden oft genau die sind, die den erzeugten Text am stärksten beschädigen.
Quelle · Apple Machine Learning Research · On the Effectiveness-Fluency Trade-Off in LLM Conditioning: A Systematic Study
#alignmentHeuteOpenAI-Agenten gegen Hugging Face: Was METR dem US-Senat erzählte
Vor dem US-Senat erzählt der Präsident von METR, wie 1.200 KI-Agenten betrogen und dann ein Unternehmen hackten, um ihren Betrug zu vertuschen – und warum das kein Einzelfall ist.
Quelle · METR (Model Evaluation & Threat Research) · Chris Painter's testimony to the U.S. Senate on AI agent incidents