最近のFTCの行動がAIを使用する企業に与える影響

米国におけるAI規制は寄せ集め的で断片的です。まず、あらゆるレベルの既存法令がAIシステムにも適用されます。AIに関する一般的なルールについては、NISTの権威あるAIリスク管理フレームワークは任意適用であり、バイデン政権のTrustworthy AI大統領令およびそれに続くOMBガイダンスは連邦政府にのみ適用されます。また、AIシステムを広く規制している州は、現時点ではコロラド州のみです。ニューヨーク市やイリノイ州などの他の法域では、自動採用のような特定のAIユースケースが規制されています。

現在、米国連邦取引委員会（FTC）のガイダンスと執行措置は、連邦政府が企業に対してAIシステムの導入をどのように求めているかを最も明確に示しています。近時のFTCガイダンスは、時事的な動向に迅速に対応しようとしています。2月には、FTCが組織や政府機関になりすますための規則を確定し、AIディープフェイクの使用を禁止しました。同月には、AI企業に対し、利用規約を密かに、かつ遡及的に変更しないよう警告しました。これらの動きに加え、FTCは反トラストの観点から、大手テクノロジー企業による投資および買収も精査しています。5月には、FTC委員長のリナ・カーン氏がニューヨーク・タイムズ紙にオピニオン記事を寄稿し、彼女の提案するAI規制アプローチを説明しました。

‍

なぜ2023年12月のRite Aid事件はそれほど重要だったのか？

2023年12月、FTCはドラッグストアチェーンのRite Aidとの和解を発表しました。FTCの訴状によれば、Rite Aidは「万引きその他の犯罪行為に及ぶ可能性があると以前に判断した顧客を特定するため、数百の小売薬局店舗で顔認識技術を使用していた」とされています。和解においてRite Aidは、小売店舗およびオンラインでの顔認識システムの導入を5年間控えること、ならびに顔認識システムで不適切に使用された顧客の写真や動画、さらにその使用から派生した「データ、モデル、アルゴリズム」を削除することに同意しました。

‍

‍

AIを使用する組織にとっての示唆は何か？

Rite Aidとの和解が注目されたのは2つの理由からです。第一に、FTCによるAI差別の解釈を示しました。第二に、救済策としてのモデル抹消の継続的な活用を示したことです。

AI 差別

AI差別に関して、FTCは、Rite Aidによる顔認識システムの導入が、人口統計上の各グループにわたる高い偽陽性率を考慮していなかったと指摘しました。また、顔認識の導入対象として選ばれた店舗の配置パターンは、少数派グループに不均衡な差別的影響を及ぼした可能性があると示唆しました。

モデル抹消

FTCはまた、2019年に先駆的に導入した比較的新しい救済策であるモデル抹消を求めました。これは、組織に対し、不適切に使用されたAIシステムから派生したデータ、モデル、アルゴリズムの削除を求めるものです。2019年以降、FTCはCambridge Analytica、Everalbum、WW（旧Weight Watchers）、Ringに関連する事案など、多くの事例でモデル抹消を命じています。FTCは今後のAI執行措置でも、モデル抹消を求める可能性が高いでしょう。

教訓

Rite Aidの事例から、組織が得るべき教訓には、以下が含まれます。 

·     AIリスクアセスメントを実施する

·     高リスクのAIシステムを監督する従業員向けに、包括的な研修プログラムを整備する

·     AI導入の文脈、潜在的な差別的影響を含めて検討する

·     データセットの正確性、バイアス、目的適合性を精査する

·     データがどのように利用されるかについて、利用者に透明性をもって説明する

·     AIシステムを一般向けおよび規制当局向けに、どのように、どの程度説明するかを慎重に検討する

·     ベンダーのプライバシーおよび責任あるAIの実践を評価する

‍

Enzaiがお手伝いします

Enzaiの製品は、EU AI Act、Colorado AI Act、NIST AI RMF、ISO/IEC 42001などのベストプラクティスおよび新たに登場する規制、標準、フレームワークに準拠して、貴社がAIを導入するのを支援します。詳細は、こちらまでお問い合わせください。

Enzaiは、組織が抽象的な方針から運用レベルの統制へ移行することを支援するために専用設計された、先進的なエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスを管理し、包括的なAIインベントリを維持し、EU AI Actコンプライアンスを確保するために必要な専門的インフラを提供します。複雑なワークフローを自動化することで、Enzaiは、ISO 42001やNISTといった国際標準との整合性を維持しながら、企業が自信を持ってAI導入を拡大できるよう支援します。