トランプ政権のAI政策へのアプローチには不透明感があるものの、各州は新たなAI法の整備を急速に進めています。その一部は、ジョージア州のSB 164のように特定のユースケースに焦点を当てており、同法は従業員の賃金を設定するための自動意思決定ツールの使用を禁止しています。その他は、イリノイ州のHB 3506のようにフロンティアAIシステムのリスクにより重点を置き、最先端モデルの開発者に対して評価および監査要件を導入しています。

立法府もまた、消費者保護および差別の是正という観点からAIの利用をますます注視しています。現時点でAIに関連する消費者保護法を制定した州はコロラド州のみですが、テキサス州議会は包括的な提案を取り上げており、同様の法案が増加する州で検討されています。

1月には、同様の法案がニューヨーク州議会（A768）に提出されました。ニューヨーク州AI消費者保護法（AICPA）は、主として差別の是正を目的としており、コロラド州法およびテキサス州の提案と同様の構成を採用しています。すなわち、要件を開発者と導入者に分け、高リスクAIシステムのリスクに焦点を当て、責任あるAI利用のための組織方針を求めています。

一部の論者は、この法案を、特に連邦レベルで最近方針転換があったことを踏まえて歓迎していますが、他方で、手続きに過度に焦点を当てているとして批判する声もあります。たとえば、ジェフリー・ソネンフェルドとスティーブン・ヘンリークスは、立法者は既存の消費者保護法をAIシステムに適用することに、より注力すべきだと考えています。

AICPA は何を対象としていますか？

AICPA は、“高リスク”AIシステムの開発者および導入者を規制対象とします。高リスクシステムとは、導入された際に「結果に重大な影響を及ぼす決定」を行うもの、またはその判断形成に実質的な要因となるものであり、以下の分野において「重要な法的または同等の効果」を有する決定が含まれます：

-教育機関への入学または教育機会

-雇用または雇用機会

-金融サービスまたは貸付サービス

-必須の政府サービス

-医療サービス

-住宅または住宅機会

-保険

-法務サービス

この高リスクシステムの定義には、いくつかのAI用途が例外として除外されています。

開発者に対する要件

AICPA は、開発者に対し、アルゴリズムによる差別に関連するリスクから消費者を保護するために「合理的な注意」を尽くすこと、ならびに自社のAIシステムとアルゴリズムによる差別を防止するための取り組みを公表することを求めます。また、高リスクシステムに関する文書を導入者に提供することも求められます。この文書には、想定用途、有害または不適切な用途、学習データ、期待される出力が含まれます。

開発者は、政府が承認した監査人による独立した第三者監査を受ける場合、「合理的な注意」を尽くしているとする「反証可能な推定」を得ることになります。これらの監査は、保護対象クラスに対する差別の可能性に焦点を当てることになります。

導入者に対する要件

導入者に対する要件には、同様のAI利用に関する声明の公表、高リスクAIシステム向けのリスク管理方針およびプログラムの整備（NIST AI Risk Management FrameworkまたはISO/IEC 42001に相当）、高リスクAIシステムに関する年次AI影響評価の実施、そしてAIシステムが意思決定において実質的な要因となる場合の消費者への通知が含まれます。

不利益な決定が下された場合、導入者はその主な理由を示すとともに、意思決定で使用された誤った個人情報を影響を受けた消費者が更新できる機会を提供しなければなりません。一定の状況では、導入者は開発者と契約を結び、これらのコンプライアンス要件の一部を後者に担わせることができます。

今後の対応

法案が成立すれば、施行日は2027年1月1日となります。AICPA はまだ立法過程の初期段階にありますが、ニューヨーク州が今後検討するAI関連法案の連続の最初の一つにすぎない可能性が高いでしょう。

‍Enzai がご支援します

Enzai のAI GRCプラットフォームは、EU AI Act、コロラドAI法、NIST AI RMF、ISO/IEC 42001 などの先進的な規制、標準、フレームワークに準拠しながら、貴社がAIを展開できるよう支援します。詳細は、こちらからお問い合わせください。

Enzai は、抽象的なポリシーから運用レベルの統制へと組織が移行するのを支援することを目的に構築された、エンタープライズ向けAIガバナンス・プラットフォームのリーディングカンパニーです。当社のエンタープライズ向けAIガバナンスAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、そしてEU AI Act への準拠に必要な専用インフラを提供します。複雑なワークフローを自動化することで、Enzai は、企業が自信を持ってAI導入を拡大できるようにしながら、 ISO 42001 やNISTといったグローバル標準との整合性を維持できるよう支援します。