Ein Bias, der auftritt, wenn ein Algorithmus systematisch voreingenommene Ergebnisse produziert, aufgrund fehlerhafter Annahmen im maschinellen Lernprozess.
Unfaire oder unverhältnismäßige Behandlung infolge algorithmischer Logik – verstärkt durch verzerrte Eingaben, unausgewogene Zielsetzungen oder fehlerhafte Merkmalsauswahl – die eine kontinuierliche Überprüfung und Korrektur erfordert.
Die KI einer Universität zur Vorauswahl von Zulassungsanträgen gewichtet den Status als „Legacy-Bewerber“ übermäßig, was zu einer unverhältnismäßig hohen Zulassungsquote für Kinder von Alumni führt. Das Zulassungsbüro entfernt dieses Merkmal, trainiert das Modell neu und überwacht die Zulassungsquoten, um die Fairness über alle demografischen Gruppen hinweg zu bestätigen.
