Quantitative Maße (z.B. demografische Parität, gleichberechtigte Chancen), die verwendet werden, um zu bewerten, wie fair die Vorhersagen eines KI-Modells über verschiedene Gruppen hinweg sind.
Stellen Sie objektive Kriterien bereit, um gruppenbezogene Ergebnisunterschiede zu erkennen und zu überwachen. Zu den gängigen Metriken gehören: demografische Parität (gleiche Raten positiver Vorhersagen), ausgeglichene Chancen (gleiche Raten wahrer/falscher positiver Ergebnisse) und Kalibrierung (vorhergesagtes Risiko entspricht den beobachteten Ergebnissen). Governance-Frameworks schreiben vor, für jeden Anwendungsfall geeignete Metriken auszuwählen und diese kontinuierlich zu verfolgen, um Fairness-SLAs durchzusetzen.
Das prädiktive Zulassungsmodell einer Universität berichtet vierteljährlich über Unterschiede bei der demografischen Parität. Wenn die Raten positiver Vorhersagen für Bewerberinnen unter 95 % derjenigen für Bewerber fallen, löst ein Hinweis eine Fairness-Überprüfung aus. Das Team passt die Entscheidungsgrenzwerte an, um die 0,8-Paritätsregel einzuhalten, und dokumentiert die Änderung im Fairness-Dashboard.
