Glossar
Aktualisiert
Ungerechte oder unverhältnismäßige Behandlung aufgrund algorithmischer Logik, verstärkt durch voreingenommene Eingaben, verzerrte Zielsetzungen oder fehlerhafte Feature-Auswahl, die eine kontinuierliche Prüfung und Korrektur erfordert.
Beispiel
Die KI einer Universität zur Vorauswahl von Bewerbungen bewertet den Status „Legacy Applicant“ (Kinder von Ehemaligen) übermäßig stark, was zu einer unverhältnismäßig hohen Zulassungsquote für Alumni-Kinder führt. Das Zulassungsbüro entfernt dieses Merkmal, trainiert das Modell neu und überwacht die Zulassungsraten, um die Fairness über alle demografischen Gruppen hinweg sicherzustellen.