Zuletzt aktualisiert am:
Im Bereich der KI bezieht sich dies auf die ungerechte Behandlung von Personen oder Gruppen aufgrund von Voreingenommenheiten in Daten oder Algorithmen, was zu ungleichen Ergebnissen führt.
Tritt auf, wenn Modellvorhersagen oder -entscheidungen geschützte Klassen (wie ethnische Herkunft, Geschlecht, Alter) systematisch benachteiligen. Die Governance erfordert die Definition von Fairness-Metriken (z. B. Chancengleichheit, demografische Parität), die Einbettung von Fairness-Constraints während des Trainings sowie die Auditierung bereitgestellter Modelle auf unverhältnismäßige Auswirkungen (Disparate Impact), einschließlich vordefinierter Behebungspläne bei Schwellenwertverletzungen.
Praxisbeispiel:
Das Tool zur Vorhersage von Universitätszulassungen ermittelt geringere Zulassungswahrscheinlichkeiten für Studierende der ersten Generation. Eine Fairness-Prüfung offenbart, dass Merkmale, die mit traditionellen Bewerbern korrelieren, diese Disparität verursachen. Die Zulassungsstelle entfernt diese Stellvertreter-Variablen und trainiert das Modell erneut, um gleiche Richtig-Positiv-Raten über alle studentischen Hintergründe hinweg zu erzielen.
