Folgenabschätzung im Bereich Menschenrechte
Ein Prozess zur Bewertung der Auswirkungen von KI-Systemen auf Grundrechte (Datenschutz, freie Meinungsäußerung, Nichtdiskriminierung) und zur Identifizierung von Minderungsmaßnahmen.
Definition
Eine spezielle Folgenabschätzung, die KI-Anwendungsfälle anhand von Menschenrechtsrahmen (UDHR, ICCPR) abbildet. Dazu gehören Konsultationen mit Interessenträgern (einschließlich marginalisierter Gruppen), eine Szenarioanalyse von Rechtsverletzungen und die Entwicklung von Maßnahmen zur Wahrung der Rechte. Die Unternehmensleitung integriert die Ergebnisse der HRIA in die Projektanforderungen, Verträge und Überwachungspläne und veröffentlicht öffentlich zusammenfassende Berichte, um Transparenz und Rechenschaftspflicht zu gewährleisten.
Real-World Example
Ein Social-Media-Unternehmen führt eine HRIA durch, bevor es eine KI zur Avatar-Generation einsetzt. Es konsultiert Interessenvertreter von Behinderten, um unsensible Darstellungen zu vermeiden, überprüft Vorurteile hinsichtlich des Gleichgewichts zwischen Geschlecht und Rasse und veröffentlicht eine HRIA-Zusammenfassung, aus der hervorgeht, wie sie potenzielle Schäden an der Würde und der Meinungsäußerung der Nutzer abgemildert haben.
.svg)
