米国連邦取引委員会（FTC）は、AIの不適切利用と見なされる事例への対処において先頭に立ってきたため、AI政策コミュニティは、FTCが9月25日に、5社によるAIを用いたとされる欺瞞行為に対して措置を講じたと発表したことに驚きませんでした。同時に、これらの措置の一つ――生成AI企業Rytrに対するもの――には、以下で述べるとおり、斬新な要素が含まれています。

FTCの措置以上に驚きをもって受け止められたのは、9月18日にテキサス州司法長官ケン・パクストンが、医療向け生成AIを提供するPieces Technologiesとの間で「先例のない」和解に達したと発表したことでした。詳細は以下のとおりです。

 FTCの「Operation AI Comply」とRytrに対する申立て

9月25日、米国連邦取引委員会は、AIを用いて「顧客に害を及ぼす欺瞞的または不公正な行為をさらに助長した」とされる5社に対する措置を発表しました。5社のうちDoNotPayとRytrの2社はFTCと和解に至り、残る3社は裁判所命令の対象となっており、審理を待っています。 

これらの措置の中で最も物議を醸したのは、Rytrに対するものでした。Rytrは、顧客レビュー、推薦文、ブログ投稿、マーケティング資料、メール、その他のテキストコンテンツを、（「真面目」や「ユーモラス」などの）特定のトーンで生成できるサービスを提供しています。FTC委員5名のうち2名は、FTCによる申立ての発出に反対票を投じました。FTCを注視する複数の関係者や論評者は、今回の措置を前例のないものだと評しました。

FTCの申立ては消費者レビューと推薦文に焦点を当てており、FTCによれば、それらにはしばしば「ユーザーの入力とは無関係な、具体的かつ多くの場合重要な詳細」が含まれており、そのため「虚偽かつ欺瞞的」だったとされています。多くの人はAI生成の消費者レビューや推薦文と真正なものを見分けられないため、Rytrのサービスは「偽レビューを大量に市場へ氾濫させ」、消費者に害を及ぼす可能性があるとFTCは述べています。さらに、この機能を顧客に提供することで、Rytrは「欺瞞的行為および慣行の実行のための手段と道具」を顧客に提供したとされています。

反対意見を述べた2名の委員は、FTCの申立てには、実際に虚偽かつ欺瞞的なレビューがオンラインに投稿されたことを示す証拠がないこと、これは「手段と道具」責任を大幅に拡大するものであること、起案過程で消費者への便益を適切に考慮していないこと、そして「AIを標的にするために法を曲げる」おそれがあり、「イノベーションを萎縮させる」早計かつ強硬な取り組みの一環であることを主張しました。

テキサス州と医療AI企業、欺瞞的主張をめぐる問題で和解

驚くべき展開として、テキサス州司法長官ケン・パクストンは9月18日、Pieces Technologiesとの和解を発表しました。Piecesは、しばしば患者データに基づいて医療文書を作成するために生成AIを活用するヘルスケア企業です。少なくともテキサス州の4つの病院がPiecesのサービスを利用しています。パクストン司法長官事務所は、Piecesが同社の文書の正確性について「欺瞞的な主張」を行っていた可能性を示唆しました。Piecesは不正行為を否定し、正確性に関する主張は正しいと主張しましたが、製品の正確性に関する追加情報を提供するとともに、同社のサービスを利用する病院職員が、どの程度それらに依拠できるのか、あるいは依拠できないのかを理解できるようにすることに同意しました。この出来事は、州当局が、欺瞞的とされるAIに関する主張に対して、ますます行動を起こす姿勢を強めていることを示しています。

Enzaiがお手伝いいたします

EnzaiのAI GRCプラットフォームは、EU AI Act、Colorado AI Act、NIST AI RMF、ISO/IEC 42001などのベストプラクティスや新たに整備される規制、標準、フレームワークに準拠して、貴社によるAIの導入を支援します。詳細については、こちらまでお問い合わせください。

Enzaiは、抽象的なポリシーから実運用における監督へと組織を移行させることを目的に設計された、業界をリードするエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、そしてEU AI Actへの準拠を確保するために必要な専用インフラを提供します。複雑なワークフローを自動化することで、Enzaiは、ISO 42001やNISTといったグローバル標準との整合性を維持しながら、企業が確信を持ってAI導入を拡大できるよう支援します。