Glossar
Aktualisiert
Stellen Sie objektive Kriterien bereit, um gruppenbasierte Ergebnisdisparitäten zu erkennen und zu überwachen. Zu den gängigen Metriken gehören: demografische Parität (gleiche Raten positiver Vorhersagen), ausgeglichene Quoten (gleiche Raten an richtig- und falsch-positiven Ergebnissen) und Kalibrierung (das vorhergesagte Risiko entspricht den beobachteten Ergebnissen). Governance-Frameworks schreiben vor, für jeden Anwendungsfall geeignete Metriken auszuwählen und diese kontinuierlich zu verfolgen, um Fairness-SLAs durchzusetzen.
Beispiel
Das prädiktive Zulassungsmodell einer Universität meldet vierteljährlich Abweichungen bei der demografischen Parität. Wenn die Quote der positiven Vorhersagen für weibliche Bewerber unter 95 % der der männlichen Bewerber fällt, löst eine Warnung eine Überprüfung der Fairness aus. Das Team passt die Entscheidungsschwellenwerte an, um die 0,8-Paritätsregel zu erfüllen, und dokumentiert die Änderung im Fairness-Dashboard.