Kennzahlen zur Gerechtigkeit
Quantitative Messgrößen (z. B. unterschiedliche Auswirkungen, Chancengleichheit) zur Bewertung von Fairness und Nichtdiskriminierung bei KI-Entscheidungen.
Definition
Statistische Kennzahlen, die die Fairness zwischen demografischen oder geschützten Klassen quantifizieren. Bei unterschiedlichen Auswirkungen werden die Ergebnisraten gemessen, bei der Chancengleichheit werden die Quoten für wahrhaftig positive Ergebnisse gemessen, und bei der Kalibrierung wird die Genauigkeit der vorhergesagten Risiken bewertet. Die Governance-Rahmenbedingungen schreiben vor, dass für jeden Anwendungsfall angemessene Justizkennzahlen ausgewählt, akzeptable Schwellenwerte festgelegt und diese regelmäßig den Aufsichtsbehörden gemeldet werden, um die Nichtdiskriminierung während des gesamten KI-Lebenszyklus sicherzustellen.
Real-World Example
Die Ergebnisse eines Predictive-Policing-Modells werden monatlich evaluiert: Die Abteilung berechnet die unterschiedlichen Wirkungsquoten für Stopps nach Rennen und stellt fest, dass das Verhältnis den Schwellenwert von 0,8 überschreitet. Sie unterbrechen automatische Patrouillenempfehlungen, kalibrieren das Modell unter Berücksichtigung von Fairness-Auflagen neu und überprüfen nach dem Einsatz, ob die Stop-Raten den Maßstäben der Gerechtigkeit entsprechen.
.svg)
