Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete am 19. September 2024 den California AI Transparency Act (SB 942) als Gesetz. Das Gesetz tritt am 1. Januar 2026 in Kraft und gilt für die folgenden Anbieter und KI-Systeme: 

Erfasster Anbieter: eine „Person, die ein generatives System der künstlichen Intelligenz erstellt, programmiert oder anderweitig produziert, das mehr als 1.000.000 monatliche Besucher oder Nutzer hat und innerhalb der geografischen Grenzen“ Kaliforniens öffentlich zugänglich ist 

Generatives System der künstlichen Intelligenz: jedes KI-System, das „abgeleitete synthetische Inhalte erzeugen kann, einschließlich Text, Bilder, Video und Audio, die die Struktur und die Merkmale der Trainingsdaten des Systems nachahmen“

KI Erkennungstool

Für generative KI-Systeme müssen erfasste Anbieter den Nutzern ein kostenloses KI-Erkennungstool bereitstellen. Unter anderem muss das KI-Erkennungstool:

> Ermöglichen, dass ein Nutzer „feststellt, ob Bild-, Video- oder Audioinhalte oder Inhalte, die eine beliebige Kombination davon darstellen, von dem generativen KI-System des erfassten Anbieters erstellt oder verändert wurden“.

> „Alle System-Herkunftsdaten“ ausgeben, die in den Inhalten erkannt werden

> „Keine personenbezogenen Herkunftsdaten“ ausgeben, die in den Inhalten erkannt werden

Das Gesetz erlaubt es erfassten Anbietern, Einschränkungen für das KI-Erkennungstool festzulegen, „um nachweisbaren Risiken für die Sicherheit oder Integrität“ des generativen KI-Systems vorzubeugen oder darauf zu reagieren. Es legt außerdem Anforderungen für erfasste Anbieter fest, die ihre KI-Systeme an Dritte lizenzieren.  

Latente und manifeste Offenlegungen

Das Gesetz verpflichtet erfasste Anbieter, in Bild-, Video- oder Audioinhalten oder in „Inhalten, die eine beliebige Kombination davon darstellen“, eine „latente Offenlegung“ aufzunehmen, die entweder direkt oder über einen dauerhaften Internetlink bestimmte Informationen über den erfassten Anbieter und die erzeugte Ausgabe vermittelt. Darüber hinaus verlangt es von erfassten Anbietern, den Nutzern die Option zu geben, eine „manifeste Offenlegung“ einzufügen, die die Inhalte klar als KI-generiert kennzeichnet und schwer zu entfernen ist.

Noch keine Entscheidung zu SB 1047 

SB 942 ist eines von mehreren KI-Gesetzen, die Newsom derzeit prüft und bis zum 30. September unterzeichnen muss. Das bekannteste davon ist SB 1047, ein weitreichender Gesetzentwurf, der umfassende Sicherheitsprüfungs- und Berichtspflichten für Anbieter leistungsstarker Foundation-Modelle einführen würde.

Newsom sagte am 17. September, dass es im Fall von California SB 1047 schwierig sei, Anreize zur Förderung von Risikobereitschaft und zur Abschreckung von Rücksichtslosigkeit auszubalancieren, aufgrund der „überproportionalen Auswirkungen, die die Gesetzgebung haben könnte, und des abschreckenden Effekts, insbesondere in der Open-Source-Community“.  

Kaliforniens Regulierungsrahmen für KI ist weltweit relevant, da im Bundesstaat eine Reihe führender KI-Unternehmen ihren Hauptsitz haben. 

 Enzai unterstützt Sie dabei

Die KI-GRC-Plattform von Enzai kann Ihrem Unternehmen dabei helfen, KI gemäß bewährten Verfahren sowie aufkommenden Vorschriften, Standards und Rahmenwerken wie dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF und ISO/IEC 42001 einzuführen. Wenn Sie mehr erfahren möchten, nehmen Sie hier Kontakt auf.

Enzai ist die führende Enterprise-KI-Governance-Plattform, speziell entwickelt, um Organisationen dabei zu unterstützen, von abstrakten Richtlinien zu operativer Aufsicht überzugehen. Unsere Plattform für KI-Risikomanagement bietet die spezialisierte Infrastruktur, die erforderlich ist, um agentische KI-Governance zu steuern, ein umfassendes KI-Inventar zu führen und die Einhaltung des EU AI Act sicherzustellen. Durch die Automatisierung komplexer Workflows ermöglicht Enzai Unternehmen, die Einführung von KI mit Zuversicht zu skalieren und dabei gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST aufrechtzuerhalten.