Da die U.S. Federal Trade Commission bei der Bekämpfung des vermeintlichen Missbrauchs von KI an vorderster Front steht, war die KI-Politik-Gemeinschaft nicht überrascht über die Ankündigung der FTC vom 25. September, dass sie Maßnahmen gegen mutmaßliche KI-gestützte Täuschungen von fünf Unternehmen ergriffen hat. Gleichzeitig hat eine dieser Maßnahmen – gegen das generative KI-Unternehmen Rytr – neuartige Elemente, wie im Folgenden erörtert wird.

Überraschender als die Maßnahmen der FTC war die Ankündigung des Generalstaatsanwalts von Texas, Ken Paxton, am 18. September, dass er eine „erstmalige“ Einigung mit Pieces Technologies, einem Anbieter von generativer KI im Gesundheitswesen, erzielt hat, die im Folgenden näher beschrieben wird.

 Die 'Operation AI Comply' der FTC und die Beschwerde gegen Rytr

Am 25. September kündigte die U.S. Federal Trade Commission Maßnahmen gegen fünf Unternehmen an, weil sie angeblich KI nutzten, um „täuschendes oder unfaires Verhalten zu verstärken, das Kunden schadet“. Zwei der Unternehmen – DoNotPay und Rytr – erzielten eine Einigung mit der FTC, während die anderen drei Unternehmen Gerichtsverfahren unterliegen und auf ihre Verhandlungen warten. 

Die umstrittenste dieser Maßnahmen richtete sich gegen Rytr, ein Unternehmen, das die Erstellung von Kundenbewertungen, Erfahrungsberichten, Blogbeiträgen, Marketingmaterialien, E-Mails und anderen Textinhalten in spezifischen Tönen (wie „ernst“ oder „humorvoll“) ermöglicht. Zwei der fünf FTC-Kommissare stimmten gegen die Erhebung der Beschwerde durch die FTC. Mehrere FTC-Beobachter und Kommentatoren beschrieben die Maßnahme der FTC als beispiellos.

Die FTC-Beschwerde konzentrierte sich auf Verbraucherbewertungen und Erfahrungsberichte, die laut FTC häufig „spezifische, oftmals wesentliche Details enthielten, die in keinem Zusammenhang mit den Eingaben der Benutzer standen“ und daher „falsch und täuschend“ waren. Da die meisten Menschen nicht zwischen AI-generierten Kundenbewertungen und echten Bewertungen unterscheiden könnten, könnten die Dienste von Rytr laut FTC „den Markt mit einer Flut gefälschter Bewertungen überfluten“ und den Verbrauchern schaden. Weiterhin, indem es diese Fähigkeit den Kunden bietet, stellt Rytr ihnen „Mittel und Instrumente zur Verübung täuschender Handlungen und Praktiken“ zur Verfügung.

Die beiden abweichenden Kommissare argumentierten, dass die Beschwerde der FTC keine Beweise für tatsächlich online gepostete falsche und täuschende Bewertungen zeigte, dass es eine „dramatische Erweiterung“ der Haftung für Mittel und Instrumente darstellte, dass es bei der Ausarbeitung des Prozesses angemessene Vorteile für die Verbraucher nicht berücksichtigte und dass es Teil eines vorzeitigen und aggressiven Bestrebens war, das „das Gesetz beugen könnte, um an die KI heranzukommen“ und „Innovation ersticken“ könnte.

Texas und Healthcare-KI-Unternehmen einigen sich im Streit um täuschende Ansprüche

In einer überraschenden Entwicklung kündigte der Generalstaatsanwalt von Texas, Ken Paxton, am 18. September eine Einigung mit Pieces Technologies an. Pieces ist ein Gesundheitsunternehmen, das generative KI zur Erstellung medizinischer Dokumente nutzt, die oft auf Patientendaten basieren. Mindestens vier texanische Krankenhäuser nutzen Dienste von Pieces. Das Büro von Generalstaatsanwalt Paxton deutete an, dass Pieces „täuschende Behauptungen“ über die Genauigkeit seiner Dokumentation gemacht habe. Obwohl Pieces ein Fehlverhalten bestritt und darauf bestand, dass seine Genauigkeitsansprüche korrekt waren, stimmte das Unternehmen zu, weitere Informationen über die Genauigkeit seiner Produkte bereitzustellen und sicherzustellen, dass das Krankenhauspersonal, das seine Dienste nutzt, versteht, inwieweit es sich möglicherweise darauf verlassen kann oder nicht. Der Vorfall zeigt, dass die staatlichen Behörden zunehmend bereit sind, gegen angeblich täuschende KI-Ansprüche vorzugehen.

Enzai ist bereit zu helfen

Die AI-GRC-Plattform von Enzai kann Ihrem Unternehmen helfen, KI gemäß den besten Praktiken und aufkommenden Vorschriften, Standards und Rahmenwerken einzusetzen, wie dem EU KI-Gesetz, dem Colorado KI-Gesetz, dem NIST AI RMF und der ISO/IEC 42001. Um mehr zu erfahren, kontaktieren Sie uns hier.