Kognitive Verzer
Systematische Muster der Abweichung von der Norm oder der Rationalität bei der Beurteilung, die die KI-Entscheidungsfindung beeinflussen können, wenn sie in den Trainingsdaten enthalten sind.
Definition
Menschliche Vorurteile (Verankerung, Bestätigung, Verfügbarkeit) können die Datenkennzeichnung, die Merkmalsauswahl und die Zielsetzung beeinträchtigen. Um kognitive Verzerrungen zu erkennen, sind strukturierte Datenüberprüfungen, blinde Kennzeichnungsprotokolle und verschiedene Labing-Teams erforderlich. Unternehmen müssen nicht nur bei der Datenverteilung, sondern auch bei Prozessen, bei denen der Mensch auf dem Laufenden ist, nach Ursachen für Verzerrungen suchen.
Real-World Example
Ein Klassifikator für die Beantwortung einer Umfrage stuft neutrale Stimmungen fälschlicherweise als negativ ein, weil die Labeler aufgrund der jüngsten Nachrichtenereignisse Neutralität als Pessimismus überinterpretieren (Verfügbarkeitsbias). Das Team implementiert blinde Kennzeichnungen und rotiert die Labeler, um diese kognitive Verzerrung bei zukünftigen Anmerkungen abzuschwächen.
.svg)
