カリフォルニア州知事ギャヴィン・ニューサムは、2024年9月19日にカリフォルニアAI透明性法 (SB 942) に署名しました。この法律は2026年1月1日に発効し、次のプロバイダーおよびAIシステムに適用されるものです: 

対象プロバイダー: カリフォルニア州の地理的境界内で、月間100万人以上の訪問者またはユーザーがあり、公にアクセス可能な生成型人工知能システムを作成、コード化、または製造する「人物」 

生成型人工知能システム: 「システムの訓練データの構造と特性を模倣するテキスト、画像、ビデオ、および音声を含む派生合成コンテンツを生成できる」AIシステム

AI検出ツール

生成型AIシステムのため、対象プロバイダーはユーザーに無料のAI検出ツールを提供しなければなりません。他の要件の中で、AI検出ツールは以下を満たす必要があります:

> ユーザーが画像、ビデオ、音声コンテンツ、またはその組み合わせのコンテンツが対象プロバイダーの生成型AIシステムによって作成または変更されたかどうかを評価できること。

> コンテンツで検出された「いかなるシステム由来データ」も出力すること 

> コンテンツで検出された「いかなる個人由来データ」も出力しないこと

この法律は、生成型AIシステムのセキュリティや完全性に対する明確なリスクを防ぐまたは対処するために、AI検出ツールに制限を加えることを対象プロバイダーに許可しています。また、対象プロバイダーがAIシステムを第三者にライセンスする要件を規定しています。 

潜在的および顕在的開示

この法律は、対象プロバイダーが画像、ビデオ、音声コンテンツ、またはその組み合わせのコンテンツに「潜在的開示」を含め、そのプロバイダーと生成された出力についての特定の情報を直接または恒久的なインターネットリンクを通じて伝えることを要求しています。さらに、AI生成されたコンテンツとして明確に識別され、除去することが難しい「顕在的開示」を含めるオプションをユーザーに提供することも求めています。

SB 1047に関する決定はまだ 

SB 942は、ニューサムが考慮しているいくつかのAI関連法案の一つであり、署名する期限は9月30日までです。これらの中で最も重要なのはSB 1047であり、強力な基礎モデルのプロバイダーに対する幅広い安全性試験および報告要件を導入する包括的な法案です。

ニューサムは9月17日に、カリフォルニアSB 1047におけるリスクを促進し、無謀さを抑止するインセンティブのバランスを取ることは、「立法の大きな影響と、特にオープンソースコミュニティにおける萎縮効果」のため困難であると述べました。 

カリフォルニアのAI規制枠組みは、州に本社を置く多くの主要なAI企業の存在により、世界的に関連性があります。 

 Enzaiがあなたをサポートします

EnzaiのAI GRCプラットフォームは、EU AI法、コロラドAI法、NIST AI RMF、ISO/IEC 42001などのベストプラクティスと新興規制、標準、およびフレームワークに従ってあなたの会社がAIを展開するのを支援します。詳細はこちらまでお問い合わせください。