米国におけるAI規制は、さまざまな規則がパッチワークのように複雑に入り組んでいます。まず、既存のあらゆるレベルの法律がAIシステムに適用されます。AIに関する一般的な規則については、NIST（米国国立標準技術研究所）による信頼性の高いAIリスクマネジメントフレームワークは任意のものであり、バイデン政権の信頼できるAIに関する大統領令およびそれに続く行政管理予算局（OMB）の指導指針は連邦政府にのみ適用されます。また、現在AIシステムを広範に規制している州はコロラド州のみです。ニューヨーク市やイリノイ州など、他の法管轄区域では、自動採用といった特定のAIユースケースを規制しています。

現在、米国連邦取引委員会（FTC）のガイダンスと法的措置が、連邦政府が企業に対してAIシステムの展開をどのように求めているかを最も明確に示しています。最近のFTCのガイダンスは、現在の事象に迅速に対処しようとしています。2月、FTCは組織や政府機関になりすますためのAIディープフェイクの使用を禁止する規則を採択しました。同月、FTCはAI企業に対し、利用規約を遡及して密かに変更することについて警告しました。これらの活動は、独占禁止法の観点から大手テクノロジー企業による投資や買収を監視することに加えて行われています。5月、FTCのリナ・カーン委員長はニューヨーク・タイムズ紙に意見書を寄稿し、提案するAI規制へのアプローチについて述べました。

‍

12月のライト・エイド（Rite Aid）の事例はなぜそれほど重要だったのでしょうか？

2023年12月、FTCは薬局チェーンであるライト・エイドとの和解を発表しました。FTCの訴状によると、ライト・エイドは「何百もの小売店舗において、過去に万引きやその他の犯罪行為を行う可能性が高いと判断した顧客を特定するために顔認識技術を使用していた」とされています。この和解において、ライト・エイドは小売店舗またはオンラインで5年間顔認識システムを導入しないこと、また顔認識システムで不適切に使用された顧客の写真やビデオ（そのような使用から得られた「データ、モデル、アルゴリズム」を含む）を削除することに合意しました。

‍

‍

AIを利用する組織への影響とは？

FTCとライト・エイドとの和解は、2つの理由から注目に値するものでした。第一に、FTCがAIによる差別をどのように解釈しているかが示されたこと。第二に、救済措置としてモデルの剥奪（model disgorgement）が継続的に採用されたことです。

AIにおける差別

AIにおける差別についてFTCは、ライト・エイドによる顔認識システムの導入において、デモグラフィック・グループ（人口統計学的属性の集団）全体にわたる高い誤検知率が考慮されていなかったと指摘しました。また、顔認識システムを導入するために選ばれた店舗のパターンが、マイノリティグループに対して不当に差別的な影響を及ぼした可能性も示唆しています。

モデルの剥奪

FTCはまた、2019年に初めて導入した比較的新しい救済措置である「モデルの剥奪」を求めました。これは、不適切に使用されたAIシステムから得られたデータ、モデル、およびアルゴリズムを組織に削除させるものです。2019年以降、FTCはケンブリッジ・アナリティカ、Everalbum、WW（旧ウェイト・ウォッチャーズ）、Ringなどの件を含め、多くの事例でモデルの剥奪を命じてきました。FTCは今後もAIの法的執行措置において、モデルの剥奪を要求する可能性が高いと考えられます。

教訓

組織がライト・エイドの事例から学ぶべき教訓には、以下のようなものがあります。 

·     AIリスクアセスメントを実施する

·     高リスクのAIシステムを監督する従業員を対象とした、包括的な研修プログラムを整備する

·     潜在的な差別的影響を含め、AIを導入する文脈を考慮する

·     データセットの正確性、偏り、および目的に対する適合性を精査する

·     個人に対して、そのデータがどのように使用されるかを透明にする

·     一般の人々や規制当局に対して、AIシステムをどのように、どの程度説明するかを慎重に検討する

·     ベンダーのプライバシー保護および責任あるAIの実践を評価する

‍

Enzaiがサポートいたします

Enzaiの製品は、貴社がEU AI法、コロラド州AI法、NIST AI RMF、ISO/IEC 42001などのベストプラクティスや新たな規制、標準、フレームワークに準拠してAIを導入するのを支援します。詳細については、こちらからお問い合わせください。

Enzaiは、組織が抽象的なポリシーから運用監視へと移行できるよう特別に構築された、主要なエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を確実にするために必要な専門のインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を維持しながら、確信を持ってAIの導入を拡張できるよう支援します。