Fairness-Metriken
Quantitative Kennzahlen (z. B. demografische Parität, Chancengleichheit), die verwendet werden, um zu bewerten, wie fair die Prognosen eines KI-Modells gruppenübergreifend sind.
Definition
Geben Sie objektive Kriterien an, um gruppenbasierte Ergebnisunterschiede zu erkennen und zu überwachen. Zu den gängigen Kennzahlen gehören: Demografische Parität (gleiche positive Prognoseraten), Equalized Odds (gleiche Quoten für wahre/falsch positive Ergebnisse) und Kalibrierung (vorhergesagtes Risiko entspricht beobachteten Ergebnissen). Im Rahmen der Unternehmensführung müssen für jeden Anwendungsfall geeignete Kennzahlen ausgewählt und kontinuierlich überwacht werden, um faire SLAs durchzusetzen.
Real-World Example
Das prädiktive Zulassungsmodell einer Universität meldet vierteljährlich demografische Paritätsunterschiede. Wenn die Quote der positiven Prognosen von Bewerberinnen unter 95% der männlichen Bewerber fällt, löst eine Warnung eine Fairnessüberprüfung aus. Das Team passt die Entscheidungsschwellen an, um die Paritätsregel von 0,8 einzuhalten, und dokumentiert die Änderung im Fairness-Dashboard.
.svg)
