Vorurteile
Systematische Fehler in menschlichen oder KI-gestützten Entscheidungsprozessen, die durch kognitive Abkürzungen oder fehlerhafte Daten verursacht werden und Verzerrungen und Abhilfemaßnahmen erfordern.
Definition
Fehler, die auf kognitive Heuristiken (Verfügbarkeit, Verankerung) in menschlichen Urteilen oder auf algorithmische Muster zurückzuführen sind, die diese Verzerrungen widerspiegeln. Vorurteile können bei Anmerkungen zu Bezeichnungen, bei der Festlegung von Richtlinien oder bei der Überprüfung nach dem Modell auftreten. Die Unternehmensführung begegnet diesem Problem durch strukturierte Entscheidungsprotokolle, Blindprüfungsgremien, Schulungen zur Sensibilisierung für Vorurteile und algorithmische Audits, um verzerrte Ergebnisse zu erkennen und zu korrigieren, bevor sie sich verbreiten.
Real-World Example
Bei der Kreditvergabe tendieren Versicherer dazu, Bewerber mit bekannt klingenden Namen zu bevorzugen (Wiedererkennungsverzerrung). Die Bank führt blinde Anträge ein (maskiert Namen) und führt unvoreingenommene Prüfungen durch, bei denen die Genehmigungsquoten vor und nach der Implementierung verglichen werden. Dadurch werden die Unterschiede bei den Namen um 60% reduziert.
.svg)
