Zuletzt aktualisiert am:
Eine obligatorische Bewertung gemäß dem EU-KI-Gesetz für bestimmte Betreiber, um festzustellen, wie sich der Einsatz eines Hochrisiko-KI-Systems auf die Grundrechte und Menschenrechte auswirken könnte.
Gemäß Artikel 27 des EU-KI-Gesetzes ist eine FRIA (Grundrechte-Folgenabschätzung) für öffentliche Stellen verpflichtend und wird für private Unternehmen empfohlen. Sie umfasst die Identifizierung der spezifischen Personengruppen, die voraussichtlich von einem KI-System betroffen sein werden. Die Bewertung muss die beabsichtigte Verwendung, den Betriebszeitraum sowie die spezifischen Maßnahmen zur Minderung von Risiken für Rechte wie Privatsphäre, Nichtdiskriminierung und Meinungsfreiheit beschreiben.
Praxisbeispiel:
Eine städtische Polizeibehörde führt vor dem Einsatz eines KI-gestützten Systems zur Massenüberwachung eine Grundrechte-Folgenabschätzung (FRIA) durch, um sicherzustellen, dass die Technologie nicht zu einer voreingenommenen Überwachung bestimmter ethnischer Viertel führt.
