La Commission fédérale du commerce des États-Unis (FTC) ayant été à l'avant-garde de la lutte contre les abus perçus de l'IA, la communauté des politiques de l'IA n'a pas été surprise par l'annonce de la FTC, le 25 septembre, de mesures prises à l'encontre de tromperies présumées basées sur l'IA par cinq entreprises. En même temps, l'une de ces actions – contre la société d'IA générative Rytr – présente des éléments novateurs, comme détaillé ci-dessous.

Plus surprenante encore que les actions de la FTC a été l'annonce, le 18 septembre, par le procureur général du Texas, Ken Paxton, d'un accord de règlement « unique en son genre » avec Pieces Technologies, un fournisseur d'IA générative pour le secteur de la santé, décrit plus en détail ci-dessous.

 L'opération « AI Comply » de la FTC et la plainte contre Rytr

Le 25 septembre, la Commission fédérale du commerce des États-Unis a annoncé des actions contre cinq entreprises pour avoir prétendument utilisé l'IA afin de « doper des pratiques trompeuses ou déloyales qui nuisent aux consommateurs ». Deux de ces entreprises – DoNotPay et Rytr – sont parvenues à un accord avec la FTC, tandis que les trois autres font l'objet d'ordonnance judiciaires et attendent leur procès. 

La plus controversée de ces actions était dirigée contre Rytr, une entreprise qui permet de générer des avis de clients, des témoignages, des articles de blog, du matériel marketing, des e-mails et d'autres contenus textuels dans des tons spécifiques (tels que « sérieux » ou « humoristique »). Deux des cinq commissaires de la FTC ont voté contre le dépôt de la plainte par la FTC. Plusieurs observateurs et commentateurs de la FTC ont qualifié l'action de celle-ci de sans précédent.

La plainte de la FTC s'est concentrée sur les avis et témoignages de consommateurs qui, selon la FTC, contenaient souvent des « détails spécifiques, fréquemment matériels, n'ayant aucun rapport avec la saisie de l'utilisateur » et étaient donc « faux et trompeurs ». Étant donné que la plupart des gens ne seraient pas en mesure de distinguer les avis et témoignages de clients générés par IA de ceux légitimes, les services de Rytr pourraient « polluer le marché avec une surabondance de faux avis » et nuire aux consommateurs, d'après la FTC. De plus, en offrant cette possibilité à ses clients, Rytr leur a fourni des « moyens et instruments pour la commission d'actes et de pratiques trompeuses ».

Les deux commissaires dissidents ont soutenu que la plainte de la FTC n'apportait pas de preuve que de faux avis trompeurs avaient réellement été publiés en ligne, qu'elle constituait une « extension spectaculaire » de la responsabilité relative aux moyens et instruments, qu'elle ne prenait pas correctement en compte les avantages pour les consommateurs lors du processus de rédaction et qu'elle s'inscrivait dans un effort prématuré et agressif susceptible de « tordre la loi pour s'en prendre à l'IA » et de « freiner l'innovation ».

Le Texas et une entreprise d'IA de santé règlent un litige relatif à des allégations trompeuses

Dans un développement surprenant, le procureur général du Texas, Ken Paxton, a annoncé un règlement avec Pieces Technologies le 18 septembre. Pieces est une entreprise de soins de santé qui utilise l'IA générative pour produire de la documentation médicale, souvent basée sur les données des patients. Au moins quatre hôpitaux du Texas utilisent les services de Pieces. Le bureau du procureur général Paxton a suggéré que Pieces avait formulé des « affirmations trompeuses » concernant l'exactitude de sa documentation. Bien que Pieces ait nié tout acte répréhensible et maintenu que ses affirmations sur l'exactitude étaient correctes, elle a accepté de fournir des informations supplémentaires sur la précision de ses produits et de veiller à ce que le personnel hospitalier utilisant ses services comprenne dans quelle mesure il peut ou non s'y fier. Cet épisode montre que les autorités étatiques sont de plus en plus disposées à agir contre des allégations présumées trompeuses en matière d'IA.

Enzai est là pour vous aider

La plateforme GRC d'IA d'Enzai peut aider votre entreprise à déployer l'IA conformément aux meilleures pratiques et aux réglementations, normes et cadres émergents, tels que la loi sur l'IA de l'UE (EU AI Act), la loi sur l'IA du Colorado, le NIST AI RMF et l'ISO/CEI 42001. Pour en savoir plus, contactez-nous ici.

Enzai est la plateforme leader de gouvernance de l'IA d'entreprise, spécialement conçue pour aider les organisations à passer de politiques abstraites à une surveillance opérationnelle. Notre plateforme de gestion des risques liés à l'IA fournit l'infrastructure spécialisée requise pour gérer la gouvernance de l'IA agentielle, maintenir un inventaire complet de l'IA et assurer la conformité à la loi sur l'IA de l'UE. En automatisant des flux de travail complexes, Enzai permet aux entreprises de faire évoluer l'adoption de l'IA en toute confiance tout en maintenant l'alignement avec les normes mondiales telles que ISO 42001 et le NIST.