Der kalifornische Gouverneur Gavin Newsom hat am 19. September 2024 den California AI Transparency Act (SB 942) unterzeichnet. Das Gesetz tritt am 1. Januar 2026 in Kraft und gilt für die folgenden Anbieter und KI-Systeme: 

Betroffene Anbieter: eine „Person, die ein generatives System der künstlichen Intelligenz erstellt, codiert oder anderweitig produziert, das über mehr als 1.000.000 monatliche Besucher oder Nutzer verfügt und innerhalb der geografischen Grenzen“ von Kalifornien öffentlich zugänglich ist 

Generatives System der künstlichen Intelligenz: jedes KI-System, „das abgeleitete synthetische Inhalte generieren kann, einschließlich Text, Bildern, Video und Audio, die die Struktur und die Eigenschaften der Trainingsdaten des Systems nachahmen“

KI-Erkennungstool

Für generative KI-Systeme müssen betroffene Anbieter den Nutzern ein kostenloses KI-Erkennungstool zur Verfügung stellen. Das KI-Erkennungstool muss unter anderem folgende Anforderungen erfüllen:

> Es muss einem Nutzer ermöglichen, „zu beurteilen, ob Bild-, Video- oder Audioinhalte oder Inhalte, die eine Kombination daraus darstellen, vom generativen KI-System des betroffenen Anbieters erstellt oder verändert wurden“.

> Ausgabe „aller System-Provenienzdaten“, die im Inhalt erkannt werden

> Keine Ausgabe „personenbezogener Provenienzdaten“, die im Inhalt erkannt werden

Das Gesetz erlaubt es betroffenen Anbietern, das KI-Erkennungstool einzuschränken, „um nachweisbaren Risiken für die Sicherheit oder Integrität“ des generativen KI-Systems vorzubeugen oder darauf zu reagieren. Zudem werden darin Anforderungen für betroffene Anbieter beschrieben, die ihre KI-Systeme an Dritte lizenzieren. 

Latente und manifeste Offenlegungen

Das Gesetz verlangt von betroffenen Anbietern, eine „latente Offenlegung“ in Bild-, Video- oder Audioinhalten oder in „Inhalten, die eine Kombination daraus darstellen“, einzufügen. Diese muss entweder direkt oder über einen permanenten Internetlink bestimmte Informationen über den betroffenen Anbieter und die generierte Ausgabe vermitteln. Darüber hinaus müssen betroffene Anbieter den Nutzern die Möglichkeit geben, eine „manifeste Offenlegung“ einzufügen, die den Inhalt eindeutig als KI-generiert kennzeichnet und nur schwer zu entfernen ist.

Noch keine Entscheidung zu SB 1047 

SB 942 ist einer von mehreren Gesetzesentwürfen zur KI, die Newsom prüft und für deren Unterzeichnung er bis zum 30. September Zeit hat. Der prominenteste davon ist SB 1047, ein weitreichender Gesetzesentwurf, der umfassende Sicherheitsprüfungen und Berichtspflichten für Anbieter leistungsstarker Basismodelle einführen würde.

Newsom sagte am 17. September, dass die Abwägung von Anreizen zur Risikobereitschaft und der Abschreckung von Leichtfertigkeit im Fall der kalifornischen SB 1047 schwierig sei, da „die Gesetzgebung enorme Auswirkungen haben könnte und eine abschreckende Wirkung, insbesondere in der Open-Source-Community, zu befürchten ist“. 

Der regulatorische Rahmen Kaliforniens für KI ist von globaler Relevanz, da eine Vielzahl der führenden KI-Unternehmen ihren Hauptsitz in diesem Bundesstaat haben. 

 Enzai ist hier, um zu helfen

Die KI-GRC-Plattform von Enzai kann Ihr Unternehmen dabei unterstützen, KI in Übereinstimmung mit Best Practices und neuen Vorschriften, Standards und Rahmenwerken wie dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF und ISO/IEC 42001 einzusetzen. Um mehr zu erfahren, setzen Sie sich hier mit uns in Verbindung.

Enzai ist die führende Plattform für KI-Governance in Unternehmen, die speziell dafür entwickelt wurde, Organisationen beim Übergang von abstrakten Richtlinien zur operativen Aufsicht zu unterstützen. Unsere Plattform für das KI-Risikomanagement bietet die spezialisierte Infrastruktur, die für die Verwaltung der agentischen KI-Governance, die Führung eines umfassenden KI-Inventars und die Gewährleistung der Konformität mit dem EU AI Act erforderlich ist. Durch die Automatisierung komplexer Workflows ermöglicht Enzai es Unternehmen, die Einführung von KI vertrauensvoll zu skalieren und gleichzeitig die Ausrichtung an globalen Standards wie ISO 42001 und NIST beizubehalten.