Glossar
Aktualisiert
Tritt auf, wenn Modellvorhersagen oder -entscheidungen geschützte Klassen (wie ethnische Herkunft, Geschlecht, Alter) systematisch benachteiligen. Die Governance erfordert die Definition von Fairness-Metriken (z. B. Chancengleichheit, demografische Parität), die Einbettung von Fairness-Constraints während des Trainings sowie die Auditierung bereitgestellter Modelle auf unverhältnismäßige Auswirkungen (Disparate Impact), einschließlich vordefinierter Behebungspläne bei Schwellenwertverletzungen.
Beispiel
Das Tool zur Vorhersage von Universitätszulassungen ermittelt geringere Zulassungswahrscheinlichkeiten für Studierende der ersten Generation. Eine Fairness-Prüfung offenbart, dass Merkmale, die mit traditionellen Bewerbern korrelieren, diese Disparität verursachen. Die Zulassungsstelle entfernt diese Stellvertreter-Variablen und trainiert das Modell erneut, um gleiche Richtig-Positiv-Raten über alle studentischen Hintergründe hinweg zu erzielen.