カリフォルニア州のギャビン・ニューサム知事は、2024年9月19日、カリフォルニア州AI透明性法（SB 942）に署名し、同法が成立しました。本法は2026年1月1日に施行され、以下のプロバイダーおよびAIシステムが対象となります： 

対象プロバイダー： カリフォルニア州の「地理的境界内で一般にアクセス可能であり、月間訪問者数またはユーザー数が1,000,000人を超える生成人工知能システムを構築、コーディング、またはその他の方法で提供する個人または法人」 

生成人工知能システム： 「システムのトレーニングデータの構造と特性を模倣した、テキスト、画像、ビデオ、およびオーディオを含む、派生した合成コンテンツを生成できる」すべてのAIシステム

AI検出ツール

生成AIシステムについて、対象プロバイダーはユーザーに無料のAI検出ツールを提供しなければなりません。とりわけ、このAI検出ツールは以下を満たす必要があります：

> ユーザーが「画像、ビデオ、オーディオコンテンツ、またはそれらの任意の組み合わせであるコンテンツが、対象プロバイダーの生成AIシステムによって作成または改変されたものであるかどうかを評価する」ことを可能にすること。

> コンテンツ内で検出された「あらゆるシステムプロベナンス（起源）データ」を出力すること

> コンテンツ内で検出された「いかなる個人プロベナンス（起源）データ」も出力しないこと

本法は、対象プロバイダーが生成AIシステムの「セキュリティまたは完全性に対する実証可能なリスクを防止、またはそれに対応するため」に、AI検出ツールに制限を設けることを認めています。また、対象プロバイダーが自社のAIシステムを第三者にライセンス供与する際の要件についても概説しています。 

潜在的および明示的な開示

本法は、対象プロバイダーに対し、画像、ビデオ、もしくはオーディオコンテンツ、または「それらの任意の組み合わせであるコンテンツ」に、対象プロバイダーおよび生成された出力に関する特定の情報を、直接または永続的なインターネットリンクを通じて伝える「潜在的な開示（ウォーターマークなど）」を含めることを義務付けています。さらに、対象プロバイダーは、コンテンツがAIによって生成されたものであることを明確に識別し、削除することが困難な「明示的な開示」を含めるオプションをユーザーに提供する必要があります。

SB 1047については未決定 

SB 942は、ニューサム知事が検討しているいくつかのAI関連法案の一つであり、署名の期限は9月30日までとなっています。これらの中で最も注目されているのはSB 1047であり、これは強力な基盤モデルのプロバイダーに対して広範な安全性テストと報告要件を導入する、多岐にわたる法案です。

ニューサム知事は9月17日、カリフォルニア州のSB 1047の場合、「法案がもたらす可能性のある過大な影響や、特にオープンソースコミュニティにおける萎縮効果」を考慮すると、リスクテイクを促進するインセンティブと無謀な行為を抑止するインセンティブのバランスを取ることは困難であると述べました。 

カリフォルニア州には多くの主要なAI企業が本社を置いているため、同州のAIに関する規制枠組みは世界的な影響力を持ちます。 

 Enzaiがサポートいたします

EnzaiのAI GRCプラットフォームは、EU AI法、コロラド州AI法、NIST AI RMF、ISO/IEC 42001などのベストプラクティスや新たな規制、標準、フレームワークに準拠したAIの導入を支援します。詳細については、こちらからお問い合わせください。

Enzaiは、組織が抽象的なポリシーから実務的なガバナンスへと移行できるよう特別に構築された、主要な企業向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を確実にするために必要な、専門化されたインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を維持しながら、自信を持ってAIの導入を拡大できるよう支援します。