Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete am 19. September 2024 das kalifornische AI Transparency Act (SB 942). Das Gesetz tritt am 1. Januar 2026 in Kraft und betrifft die folgenden Anbieter und KI-Systeme: 

Betroffener Anbieter: eine „Person, die ein generatives künstliches Intelligenzsystem erstellt, codiert oder anderweitig produziert, das über 1.000.000 monatliche Besucher oder Nutzer hat und innerhalb der geografischen Grenzen“ Kaliforniens öffentlich zugänglich ist 

Generatives künstliches Intelligenzsystem: jedes KI-System „das abgeleitete synthetische Inhalte erzeugen kann, einschließlich Text, Bilder, Video und Audio, das die Struktur und Merkmale der Trainingsdaten des Systems nachahmt“

KI-Erkennungstool

Für generative KI-Systeme müssen betroffene Anbieter ihren Nutzern ein kostenloses KI-Erkennungstool zur Verfügung stellen. Unter anderem muss das KI-Erkennungstool:

> Es einem Nutzer ermöglichen, „zu bewerten, ob Bild-, Video- oder Audioinhalte oder Inhalte, die eine Kombination davon sind, vom generativen KI-System des betroffenen Anbieters erstellt oder verändert wurden.“

> „Jegliche erkennbaren Systemherkunftsdaten“ ausgeben, die im Inhalt gefunden werden

> Keine „persönlichen Herkunftsdaten“ ausgeben, die im Inhalt gefunden werden

Das Gesetz ermöglicht es betroffenen Anbietern, Einschränkungen für das KI-Erkennungstool „zur Verhinderung oder Reaktion auf nachweisbare Risiken für die Sicherheit oder Integrität“ des generativen KI-Systems zu setzen. Es umreißt auch Anforderungen für betroffene Anbieter, die ihre KI-Systeme an Dritte lizenzieren.  

Latente und manifeste Offenlegungen

Das Gesetz verlangt von betroffenen Anbietern, eine „latente Offenlegung“ in Bild-, Video- oder Audioinhalten oder „Inhalten, die eine beliebige Kombination davon darstellen,“ einzufügen, die entweder direkt oder über einen permanenten Internetlink bestimmte Informationen über den betroffenen Anbieter und das erstellte Ergebnis mitteilt. Zudem müssen betroffene Anbieter den Nutzern die Möglichkeit geben, eine „manifeste Offenlegung“ aufzunehmen, die den Inhalt als KI-generiert deutlich kennzeichnet und schwer zu entfernen ist.

Noch keine Entscheidung über SB 1047 

SB 942 ist eines von mehreren KI-Gesetzen, die Newsom in Betracht zieht, und er hat bis zum 30. September Zeit zur Unterzeichnung. Das auffälligste davon ist SB 1047, ein weitreichendes Gesetz, das umfassende Sicherheitsprüfungen und Berichterstattungsanforderungen für Anbieter von leistungsstarken Grundmodellen einführen würde.

Newsom sagte am 17. September, dass es im Falle von SB 1047 in Kalifornien schwierig sei, Anreize für Risikobereitschaft zu schaffen und Rücksichtslosigkeit zu verhindern, „aufgrund des übermäßigen Einflusses, den die Gesetzgebung haben könnte, und des abschreckenden Effekts, insbesondere in der Open-Source-Gemeinschaft.“  

Kaliforniens regulatorischer Rahmen für KI ist weltweit relevant, aufgrund der Anzahl führender KI-Unternehmen, die in dem Staat ansässig sind. 

 Enzai ist hier, um zu helfen

Enzais AI GRC-Plattform kann Ihrem Unternehmen dabei helfen, KI in Übereinstimmung mit den besten Praktiken und aufstrebenden Vorschriften, Standards und Rahmenwerken wie dem EU-KI-Gesetz, dem Colorado KI-Gesetz, dem NIST AI RMF und ISO/IEC 42001 einzusetzen. Um mehr zu erfahren, kontaktieren Sie uns hier.