トランプ政権の人工知能（AI）政策に対するアプローチは不透明であるものの、各州は新たなAI法案の策定を力強く推し進めています。これらの一部は特定のユースケースに焦点を当てており、例えばジョージア州のSB 164では、従業員の賃金を設定するために自動意思決定ツールを使用することを禁止しています。また、最先端モデルの開発者に評価や監査の要件を導入するイリノイ州のHB 3506のように、フロンティアAIシステムのリスクに重点を置いている法案もあります。

さらに、議員らは消費者保護や差別是正の観点からもAIの利用をますます重視するようになっています。現在までにAIに関連する消費者保護法を制定した州はコロラド州のみですが、テキサス州議会は包括的な提案を取り上げており、同様の法案を検討する州が急速に増えています。

1月には、ニューヨーク州議会でも同様の法案（A768）が提出されました。主に差別是正を目的とする「ニューヨーク州AI消費者保護法（AICPA）」は、コロラド州法やテキサス州の提案と同様の基本構成を踏襲しており、開発者（デベロッパー）と導入者（デプロイヤー）のそれぞれに義務を課し、ハイリスクAIシステムのリスクに焦点を当て、責任あるAI利用に向けた組織的な方針策定を求めています。

連邦レベルでの最近の政策転換などを考慮し、この法案を歓迎する評論家もいる一方で、手続きに偏りすぎているとして批判的な意見もあります。例えば、ジェフリー・ソネンフェルド氏とスティーブン・エンリケス氏は、議員らは既存の消費者保護法をAIシステムに適用することに注力すべきだと考えています。

AICPAの対象範囲は？

AICPAは、「ハイリスク」なAIシステムを扱う開発者および導入者を規制します。同法案は、ハイリスクシステムを「導入された際に、以下を含む分野において、実質的な法的効果または同様の効果を持つ『重大な意思決定』を行う、または意思決定を行う上での実質的な要因となるシステム」と定義しています。

- 入学手続きまたは教育機会

- 雇用または雇用機会

- 金融または融資サービス

- 必要不可欠な政府サービス

- 医療サービス

- 住宅または住宅取得機会

- 保険

- 法的サービス

いくつかのAI利用については、例外としてこのハイリスクシステムの定義から除外されています。

開発者に求められる要件

AICPAは開発者に対し、アルゴリズムによる差別に関連するリスクから消費者を保護するために「合理的な配慮（妥当な注意）」を払い、自社のAIシステムおよびアルゴリズム差別を防止するためのアプローチを公に説明することを義務付けます。また、想定される用途、有害かつ不適切な用途、トレーニングデータ、期待される出力を含む、ハイリスクシステムに関する文書を導入者に提供することも義務付けられます。

開発者が、政府から承認された監査人による独立した第三者監査を受けた場合、合理的な配慮を果たしたものという「反証可能な推定」が適用されます。このような監査は、保護対象の属性に対する差別の可能性に焦点を当てたものとなります。

導入者に求められる要件

導入者に求められる要件には、同様のAI利用状況に関する説明の公表、ハイリスクAIシステムに関するリスク管理方針およびプログラムの策定（NISTのAIリスク管理フレームワークやISO/IEC 42001に相当するもの）、ハイリスクAIシステムに対する年次のAI影響評価の実施、およびAIシステムが意思決定の実質的な要因である場合の消費者への通知などが含まれます。

また、不利益な決定が下された場合、導入者はその決定の主な理由を説明し、影響を受ける消費者が意思決定プロセスで使用された誤った個人情報を更新する機会を提供しなければなりません。一定の状況下では、導入者が開発者と契約を結ぶことで、開発者がこれらの一部のコンプライアンス要件を肩代わりすることも可能です。

今後の展望

法案が成立した場合、2027年1月1日に施行されます。AICPAは立法プロセスのまだ初期段階にありますが、ニューヨーク州が検討することになる一連のAI関連法案の最初の一つに過ぎない可能性が高いと言えます。

‍Enzaiがサポートいたします

EnzaiのAI GRCプラットフォームは、貴社がEU AI Act、Colorado AI Act、NIST AI RMF、ISO/IEC 42001などの最新の規制、標準、フレームワーク、およびベストプラクティスに準拠してAIを導入できるよう支援します。詳細については、こちらからお問い合わせください。

Enzaiは、抽象的なポリシーから具体的な運用の監視への移行を支援するために構築された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI Actへの準拠を確実にするために必要な専用のインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を保ちながら、自信を持ってAIの導入を拡張できるよう支援します。