Die amerikanische Regulierung von KI ist ein Flickenteppich. Zunächst einmal gelten alle bestehenden Gesetze auf allen Ebenen für KI-Systeme. Was die allgemeinen Regeln für KI betrifft, so ist das AI Risk Management Framework des NIST freiwillig, die vertrauenswürdige KI-Verordnung der Biden-Administration und die anschließende OMB-Leitlinie gelten nur für die Bundesregierung, und Colorado ist derzeit der einzige Bundesstaat, der KI-Systeme umfassend reguliert. Andere Gerichtsbarkeiten – wie New York City und Illinois – haben spezifische KI-Anwendungsfälle reguliert, wie zum Beispiel automatisierte Einstellungen.

Derzeit bietet die Anleitung und die Maßnahmen der US-amerikanischen Federal Trade Commission („FTC“) das klarste Bild davon, wie die Bundesregierung erwartet, dass Unternehmen KI-Systeme einsetzen. Jüngste FTC-Leitlinien haben versucht, mit Geschwindigkeit auf aktuelle Ereignisse zu reagieren. Im Februar verabschiedete die FTC eine Regel, die den Einsatz von KI-Deepfakes zur Vortäuschung von Organisationen oder Regierungsbehörden verbietet. Im selben Monat warnte sie KI-Unternehmen davor, ihre Nutzungsbedingungen heimlich mit rückwirkender Wirkung zu ändern. Diese Aktivitäten erfolgen zusätzlich zu ihrer Prüfung von Investitionen und Übernahmen durch große Technologieunternehmen aus kartellrechtlicher Sicht. Im Mai schrieb FTC-Vorsitzende Lina Khan einen Meinungsartikel in der New York Times und beschrieb ihren vorgeschlagenen Ansatz zur KI-Regulierung.

‍

Warum war der Fall Rite Aid im Dezember so wichtig?

Im Dezember 2023 kündigte die FTC eine Einigung mit der Apothekenkette Rite Aid an. Rite Aid hatte „Gesichtserkennungstechnologie in Hunderten seiner Einzelhandelsapotheken eingesetzt, um Kunden zu identifizieren, die zuvor als wahrscheinlich für Ladendiebstahl oder anderes kriminelles Verhalten angesehen wurden“, laut einer FTC-Beschwerde. In der Einigung stimmte Rite Aid zu, fünf Jahre lang darauf zu verzichten, Gesichtserkennungssysteme in seinen Einzelhandelsgeschäften oder online einzusetzen und Fotos und Videos von Kunden, die unsachgemäß in Gesichtserkennungssystemen verwendet wurden, einschließlich „Daten, Modelle und Algorithmen“, die aus diesem Gebrauch abgeleitet wurden, zu löschen.

‍

‍

Welche Auswirkungen hat das für Unternehmen, die KI einsetzen?

Die Einigung der FTC mit Rite Aid war aus zwei Gründen bemerkenswert. Erstens zeigte sie die Interpretation der FTC bezüglich der Diskriminierung durch KI. Zweitens kennzeichnete sie den anhaltenden Einsatz des Modellrückschlusses als Abhilfemaßnahme.

KI-Diskriminierung

Zur KI-Diskriminierung bemerkte die FTC, dass der Einsatz von Gesichtserkennungssystemen durch Rite Aid nicht die hohen Fehlerraten über demografische Gruppen hin berücksichtigt hatte. Sie schlug außerdem vor, dass das Muster der zur Gesichtserkennung bestimmten Geschäfte eine überproportionale diskriminierende Auswirkung auf Minderheitengruppen hätte.

Modellrückschluss

Die FTC verlangte auch den Modellrückschluss, eine relativ neue Abhilfemaßnahme, die sie 2019 ins Leben gerufen hat und die von einer Organisation den Löschzwang für Daten, Modelle und Algorithmen verlangt, die aus unsachgemäß eingesetzten KI-Systemen abgeleitet wurden. Seit 2019 hat die FTC den Modellrückschluss bereits in vielen Episoden verlangt, darunter solche in Verbindung mit Cambridge Analytica, Everalbum, WW (vormals Weight Watchers) und Ring. Die FTC wird wahrscheinlich den Modellrückschluss in zukünftigen KI-Durchsetzungsmaßnahmen verlangen.

Lektionen

Einige Lektionen, die Organisationen aus dem Fall Rite Aid ziehen sollten, umfassen: 

·     Durchführung von KI-Risikoanalysen

·     Implementierung umfassender Schulungsprogramme für Mitarbeiter, die hochriskante KI-Systeme beaufsichtigen

·     Berücksichtigung des Kontexts des KI-Einsatzes, einschließlich potenzieller diskriminierender Auswirkungen

·     Prüfung von Datensätzen auf Genauigkeit, Bias und Eignung für den Zweck

·     Transparenz gegenüber Menschen darüber, wie ihre Daten verwendet werden

·     Überlegungen dazu, wie und in welchem Umfang KI-Systeme der Öffentlichkeit und den Regulierungsbehörden beschrieben werden

·     Evaluierung der Datenschutz- und verantwortungsvollen KI-Praxis von Anbietern

‍

Enzai ist hier, um zu helfen

Das Produkt von Enzai kann Ihrem Unternehmen helfen, KI in Übereinstimmung mit Best Practices und aufkommenden Regulierungen, Standards und Rahmenwerken einzusetzen, wie dem EU AI Act, dem Colorado AI Act, dem NIST AI RMF und ISO/IEC 42001. Für weitere Informationen, kontaktieren Sie uns hier.