Enzai MCPサーバー
お使いのAIと接続。
MCP対応のエージェントなら、どれでも同じガバナンスの効いた接続を、チームが普段使う場所でそのまま利用できます。
主な連携先
ワークフローツール
Jira, ServiceNow
モデルプロバイダー
Anthropic, OpenAI
エージェントツール
Copilot Studio, Claude Enterprise
開発環境
Azure AI Foundry, Amazon Bedrock, Databricks

ブログ

最近のFTC(連邦取引委員会)の動向が、AIを活用する企業に及ぼす影響

最近のFTC(連邦取引委員会)の動向が、AIを活用する企業に及ぼす影響

最近のFTC(連邦取引委員会)の動向が、AIを活用する企業に及ぼす影響

最近のFTC(連邦取引委員会)による法執行措置およびガイダンスは、企業や組織に対して重大な影響を及ぼしています。

最近のFTC(連邦取引委員会)による法執行措置およびガイダンスは、企業や組織に対して重大な影響を及ぼしています。

•

3分で読めます

米国におけるAI規制は、さまざまな規則がパッチワークのように複雑に入り組んでいます。まず、既存のあらゆるレベルの法律がAIシステムに適用されます。AIに関する一般的な規則については、NIST(米国国立標準技術研究所)による信頼性の高いAIリスクマネジメントフレームワークは任意のものであり、バイデン政権の信頼できるAIに関する大統領令およびそれに続く行政管理予算局(OMB)の指導指針は連邦政府にのみ適用されます。また、現在AIシステムを広範に規制している州はコロラド州のみです。ニューヨーク市やイリノイ州など、他の法管轄区域では、自動採用といった特定のAIユースケースを規制しています。

現在、米国連邦取引委員会(FTC)のガイダンスと法的措置が、連邦政府が企業に対してAIシステムの展開をどのように求めているかを最も明確に示しています。最近のFTCのガイダンスは、現在の事象に迅速に対処しようとしています。2月、FTCは規則を最終決定し、組織や政府機関になりすますためのAIディープフェイクの使用を禁止しました。同月、FTCはAI企業に対し、利用規約を遡及して密かに変更することについて警告しました。これらの活動は、独占禁止法の観点から大手テクノロジー企業による投資や買収を監視することに加えて行われています。5月、FTCのリナ・カーン委員長はNew York Times紙に意見書を寄稿し、提案するAI規制へのアプローチについて述べました。

‍

12月のRite Aidの事例はなぜそれほど重要だったのでしょうか?

2023年12月、FTCは薬局チェーンであるRite Aidとの和解を発表しました。FTCの訴状によると、Rite Aidは「何百もの小売店舗において、過去に万引きやその他の犯罪行為を行う可能性が高いと判断した顧客を特定するために顔認識技術を使用していた」とされています。この和解において、Rite Aidは小売店舗またはオンラインで5年間顔認識システムを導入しないこと、また顔認識システムで不適切に使用された顧客の写真やビデオ(そのような使用から得られた「データ、モデル、アルゴリズム」を含む)を削除することに合意しました。

‍

‍

AIを利用する組織への影響とは?

FTCとRite Aidとの和解は、2つの理由から注目に値するものでした。第一に、FTCがAIによる差別をどのように解釈しているかが示されたこと。第二に、救済措置としてモデルの破棄(model disgorgement)が継続的に採用されたことです。

AIにおける差別

AIにおける差別についてFTCは、Rite Aidによる顔認識システムの導入において、デモグラフィック・グループ(人口統計学的属性の集団)全体にわたる高い誤検知率が考慮されていなかったと指摘しました。また、顔認識システムを導入するために選ばれた店舗のパターンが、マイノリティグループに対して不当に差別的な影響を及ぼした可能性も示唆しています。

モデルの破棄

FTCはまた、2019年に初めて導入した比較的新しい救済措置である「モデルの破棄」を求めました。これは、不適切に使用されたAIシステムから得られたデータ、モデル、およびアルゴリズムを組織に削除させるものです。2019年以降、FTCはCambridge Analytica、Everalbum、WW(旧Weight Watchers)、Ringなどの件を含め、多くの事例でモデルの破棄を命じてきました。FTCは今後もAIの法的執行措置において、モデルの破棄を要求する可能性が高いと考えられます。

教訓

組織がRite Aidの事例から学ぶべき教訓には、以下のようなものがあります。 

·     AIリスク評価を実施する

·     高リスクのAIシステムを監督する従業員を対象とした、包括的な研修プログラムを整備する

·     潜在的な差別的影響を含め、AIを導入する文脈を考慮する

·     データセットの正確性、偏り、および目的に対する適合性を精査する

·     個人に対して、そのデータがどのように使用されるかを透明にする

·     一般の人々や規制当局に対して、AIシステムをどのように、どの程度説明するかを慎重に検討する

·     ベンダーのプライバシー保護および責任あるAIの実践を評価する

‍

Enzaiがサポートいたします

Enzaiの製品は、貴社がEU AI Act、コロラド州AI法、NIST AI RMF、ISO/IEC 42001などのベストプラクティスや新たな規制、標準、フレームワークに準拠してAIを導入するのを支援します。詳細については、こちらからお問い合わせください。

Enzaiは、組織が抽象的なポリシーから運用監視へと移行できるよう特別に構築された、主要なエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI Actへの準拠を確実にするために必要な専門のインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を維持しながら、確信を持ってAIの導入を拡張できるよう支援します。

目次

設計段階からのコンプライアンス

設計段階からのコンプライアンス

設計段階からのコンプライアンス

2023年からISO 27001認証を取得、NQAによる年次監査

GDPRに沿ったデータ取り扱い

顧客データは複数リージョンのAWSでホスト

独自のAIモデルをプライベート接続で利用可能

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

AIガバナンス

AIガバナンス

インフラストラクチャ

インフラストラクチャ

信頼を築くための設計。

信頼を築くための設計。

チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。

既存のシステム、ポリシー、AIワークフローをひとつのプラットフォームに接続します。

既存のシステム、ポリシー、AIワークフローをひとつのプラットフォームに接続します。