Algorithmische Voreingenommenheit
Verzerrung, die auftritt, wenn ein Algorithmus Ergebnisse liefert, die aufgrund falscher Annahmen im Prozess des maschinellen Lernens systemisch voreingenommen sind.
Definition
Unfaire oder unverhältnismäßige Behandlung aufgrund algorithmischer Logik — verstärkt durch voreingenommene Eingaben, verzerrte Ziele oder fehlerhafte Merkmalauswahl —, die eine kontinuierliche Überprüfung und Korrektur erfordert.
Real-World Example
Die KI einer Universität überbewertet den Status eines „alten Bewerbers“, was zu einer unverhältnismäßig hohen Akzeptanz für Alumni-Kinder führt. Die Zulassungsstelle entfernt dieses Merkmal, trainiert das Modell neu und überwacht die Annahmequoten, um die demografische Fairness zu gewährleisten.
.svg)
