米国におけるAI規制は、寄せ集めのような状態です。まず、あらゆるレベルの既存法はAIシステムにも適用されます。AIに関する一般的な規則については、NISTの権威あるAIリスク管理フレームワークは任意適用であり、バイデン政権のTrustworthy AIに関する大統領令およびその後のOMBガイダンスは連邦政府にのみ適用され、さらに現在、AIシステムを包括的に規制している州はコロラド州のみです。ニューヨーク市やイリノイ州などの他の管轄区域では、自動化された採用選考のような特定のAIユースケースが規制されています。

現在、米国連邦取引委員会（FTC）のガイダンスと措置が、連邦政府が企業に対してAIシステムの導入をどのように期待しているかを示す最も明確な指針となっています。FTCの最近のガイダンスは、時事的な問題に迅速に対応しようとしてきました。2月には、FTCは組織や政府機関になりすますための規則を最終決定しました。同じ月には、AI企業が利用規約を遡及的にこっそり変更することについて警告しました。こうした活動は、大手テクノロジー企業による投資や買収を独占禁止法の観点から精査する取り組みに加えて行われています。5月には、FTC委員長のリナ・カーン氏がニューヨーク・タイムズに意見記事を寄稿し、AI規制に対する自身の提案アプローチを説明しました。

‍

2023年12月のRite Aid事件はなぜそれほど重要だったのか？

2023年12月、FTCはRite Aid薬局チェーンとの間で和解に合意したと発表しました。FTCの शिकायतによれば、Rite Aidは「万引きまたはその他の犯罪行為に及ぶ可能性が高いと以前判断していた顧客を特定するために、数百の小売薬局店舗で顔認識技術を使用していた」とされています。和解においてRite Aidは、小売店舗およびオンラインでの顔認識システムの導入を5年間行わないこと、ならびに顔認識システムに不適切に使用された顧客の写真や動画、さらにそのような使用から派生した「データ、モデル、アルゴリズム」を削除することに同意しました。

‍

‍

AIを利用する組織にとっての含意は何か？

Rite Aidとの和解は、2つの理由で注目されました。第一に、AI差別に対するFTCの解釈を示したことです。第二に、救済措置としてのモデルの剥奪 の継続的な活用を示したことです。

AI 差別

AI差別について、FTCは、Rite Aidによる顔認識システムの導入が、人口統計学的グループ間での高い偽陽性率を考慮していなかったと指摘しました。また、顔認識を導入する店舗の選定パターンは、少数派グループに不均衡な差別的影響を及ぼした可能性があるとも示唆しました。

モデルの剥奪

FTCはまた、2019年に同委員会が先駆的に導入した比較的新しい救済措置であるモデルの剥奪も求めました。これは、不適切に使用されたAIシステムから派生したデータ、モデル、アルゴリズムの削除を組織に求めるものです。2019年以降、FTCはこれまでに、Cambridge Analytica、Everalbum、WW（旧Weight Watchers）およびRingに関する事案を含め、多くの場面でモデルの剥奪を求めてきました。FTCは今後のAI執行 நடவடにおいても、モデルの剥奪を求める可能性が高いでしょう。

教訓

Rite Aid事案から組織が得るべき教訓として、以下が挙げられます。 

·     AIリスク評価を実施する

·     高リスクAIシステムを監督する従業員向けに包括的な研修プログラムを整備する

·     AI導入の文脈、ならびに潜在的な差別的影響を考慮する

·     データセットの正確性、バイアス、目的適合性を精査する

·     自らのデータがどのように使用されるかについて、利用者に透明性をもって説明する

·     AIシステムを一般向けおよび規制当局向けにどのように、またどの程度説明するかを慎重に検討する

·     ベンダーのプライバシーおよび責任あるAIの実践を評価する

‍

Enzaiが支援いたします

Enzaiの製品は、EU AI Act、Colorado AI Act、NIST AI RMF、およびISO/IEC 42001などのベストプラクティスや新たに登場する規制、標準、フレームワークに準拠して、貴社がAIを導入することを支援します。詳細については、こちらからお問い合わせください。

Enzaiは、抽象的な方針から実務レベルの監督へと組織が移行できるよう設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。弊社のAIリスク管理プラットフォームは、エージェント型AIガバナンスを管理し、包括的なAIインベントリを維持し、EU AI Actへの準拠を確保するために必要な専門的な基盤を提供します。複雑なワークフローを自動化することで、Enzaiは、 ISO 42001 やNISTなどの世界基準との整合性を維持しながら、企業が自信を持ってAI導入を拡大できるよう支援します。