連邦取引委員会（FTC）はAIの誤用とされる行為に対抗する最前線に立ってきたため、AI政策コミュニティは9月25日のFTCによるAIを利用したとされる欺瞞に対する5社への措置の発表に驚きはありませんでした。同時に、これらの措置の一つ、生成AI企業Rytrに対するものは、以下で説明するように新しい要素を含んでいます。

FTCの行動よりも驚きをもたらしたのは、9月18日にテキサス州検事総長ケン・パクストンが生成AIをヘルスケアに提供する企業Pieces Technologiesとの「画期的な」和解に達した発表でした。詳細は以下で説明されます。

 FTCの「Operation AI Comply」とRytrへの苦情

9月25日、米国連邦取引委員会は、AIを使って「顧客に害を及ぼす欺瞞的なまたは不公正な行為を強化する」ために用いたとされる5社に対して措置を発表しました。そのうちの2社、DoNotPayとRytrはFTCとの和解に達しましたが、他の3社は裁判命令を受け、裁判を待っています。 

これらの措置の中で最も議論を呼んだのはRytrに対するものでした。Rytrは、顧客レビュー、推薦状、ブログ記事、マーケティング資料、Eメールその他のテキストコンテンツを特定のトーン（「厳粛」や「ユーモラス」など）で生成することを可能にする会社です。5人のFTC委員のうち2人はFTCの苦情発行に反対票を投じました。多くのFTCウォッチャーや解説者は、FTCの行動を前例のないものと説明しました。

FTCの苦情は消費者レビューと推薦状に焦点を当てており、FTCはそれらがしばしば「ユーザーの入力とは無関係な具体的かつ重要な詳細を含む」と示唆し、それゆえ「偽りで欺瞞的である」とされました。ほとんどの人々はAI生成の顧客レビューや推薦状と正当なものを区別できないため、Rytrのサービスは「偽物のレビューで市場を汚染する」可能性があり、消費者に害を及ぼすとFTCは述べました。さらに、この能力を顧客に提供することによって、Rytrは「欺瞞的な行為や慣行のための手段や機関」を顧客に提供しているとされました。

2人の反対票を投じた委員は、FTCの苦情が実際にオンラインで投稿された偉偽や欺瞞的なレビューの証拠を示していないこと、手段と手段の責任の「劇的な拡張」に当たること、消費者への利益を適切に考慮していないこと、そしてそれがAIを取り締まるために急速かつ攻撃的な取り組みの一環であり、「法を曲げてAIを取り締まる」と「イノベーションを冷やす」可能性があることを主張しました。

テキサス州とヘルスケアAI企業の詐欺申立問題の解決

驚くべき展開として、9月18日、テキサス州検事総長ケン・パクストンがPieces Technologiesとの和解を発表しました。Piecesは患者データに基づいて医療文書を生成するための生成AIを使用するヘルスケア企業です。少なくとも4つのテキサス州の病院がPiecesのサービスを利用しています。検事総長パクストンのオフィスは、Piecesがその文書の正確さについて「欺瞞的な主張」をしていると示唆しました。Piecesは不正行為を否認し、その正確性の主張が正しいと主張しましたが、その製品の正確性についてさらに情報を提供することに同意し、サービスを利用する病院スタッフがそれらにどの程度依存できるかを理解するようにすることに合意しました。このエピソードは、州の当局が疑わしいAIの主張に対してますます行動しようとしていることを示しています。

Enzaiがサポートします

EnzaiのAI GRCプラットフォームは、EU AI法、コロラド州AI法、NIST AI RMF、ISO/IEC 42001などの規制、基準、フレームワークに沿ってAIを展開するために、貴社を支援できます。詳細を知りたい方はこちらまでご連絡ください。