米国のAI規制は寄せ集めです。まず、既存の法律はすべてのレベルでAIシステムに適用されます。AIに関する一般的な規則について言えば、NISTの権威あるAIリスク管理フレームワークは任意であり、バイデン政権の信頼できるAIに関する大統領令とその後のOMBガイダンスは連邦政府にのみ適用され、コロラド州は現在、広範にAIシステムを規制する唯一の州です。他の法管轄区ではニューヨーク市やイリノイ州など、特定のAIの使用例、例えば自動化された採用について規制を行っています。

現在、米国連邦取引委員会（「FTC」）のガイダンスと活動が、企業がAIシステムを導入する際の連邦政府の期待を最も明確に示しています。最近のFTCガイダンスは、迅速に時事問題に対処しようとしています。2月には、FTCは規則を最終化し、AIディープフェイクを使用して組織や政府機関を偽装することを禁止しました。同じ月に、AI企業に対して遡及的にサービス条項をこっそり変更しないように警告しました。これらの活動は、大手技術企業による投資や買収を反トラストの視点から精査することに加えられています。5月には、FTC議長のリナ・カーンがAI規制への提案アプローチをニューヨーク・タイムズで意見記事として執筆しました。

‍

なぜ12月のライトエイド事件が重要だったのでしょうか？

2023年12月に、FTCはライトエイド薬局チェーンとの和解を発表しました。FTCの訴状によれば、ライトエイドは数百店の小売薬局での顔認識技術を使用して、以前に万引きやその他の犯罪行為を行う可能性が高いと見なした顧客を識別していました。この和解により、ライトエイドは5年間、店舗やオンラインで顔認識システムを展開しないことに同意し、不適切に使用された顔認識システムの顧客の写真やビデオ、およびそれから派生した「データ、モデル、およびアルゴリズム」を削除することになりました。

‍

‍

AIを使用する組織への影響は何ですか？

FTCとライトエイドの和解は2つの理由で注目されました。まず、FTCによるAI差別の解釈を示したことです。次に、モデル廃棄を救済手段として継続的に使用したことです。

AI差別

AI差別について、FTCはライトエイドの顔認識システムの展開が、人口統計グループ全体で高い誤認識率を考慮していなかったと指摘しています。また、顔認識の展開に選ばれた店舗のパターンが少数派グループに対して不均衡な差別的影響を持つ可能性が示唆されました。

モデル廃棄

FTCはまた、モデル廃棄という比較的新しい救済策を要求しました。これはFTCが2019年に先駆けて導入したもので、不適切に使用されたAIシステムから派生したデータ、モデル、およびアルゴリズムを組織に削除させることを要求します。2019年以来、FTCはケンブリッジ・アナリティカ、エバーアルバム、WW（旧ウェイト・ウォッチャーズ）、リングに関連する事例を含む多くのエピソードでモデル廃棄を要求してきました。FTCは今後のAI執行措置でもモデル廃棄を要求する可能性が高いです。

教訓

ライトエイド事件から組織が学ぶべき教訓には以下のようなものがあります: 

·     AIリスク評価を行う

·     高リスクAIシステムを監督する従業員向けの包括的なトレーニングプログラムを整える

·     AI展開の文脈を考慮し、潜在的な差別的影響を考慮する

·     正確性、バイアス、目的の適合性についてデータセットを精査する

·     人々にデータの使用方法について透明性を持つ

·     AIシステムを公共や規制当局にどのように、どの程度説明するかを考慮する

·     ベンダーのプライバシーと責任あるAIの実践を評価する

‍

エンザイがサポートします

エンザイの製品は、貴社がAIをEU AI法、コロラドAI法、NIST AI RMF、ISO/IEC 42001などのベストプラクティスと新しい規制、標準およびフレームワークに従って導入することを支援できます。詳細について知りたい方はこちらでご連絡ください。