Systematische Fehler in den Ausgaben der KI, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu unfaire Ergebnisse führen.
Systematische Verzerrungen in KI-Ausgaben, die bestimmte Gruppen unfair bevorzugen oder benachteiligen – verursacht durch verzerrte Datensätze, fehlerhafte Kennzeichnung oder falsch spezifizierte Zielsetzungen – und die Erkennung, Messung und Minderung erfordern.
Ein Gesichtserkennungssystem, das überwiegend mit Gesichtern hellerer Hauttöne trainiert wurde, weist bei Personen mit dunkleren Hauttönen höhere Fehlerraten auf. Der Anbieter gleicht seinen Trainingsdatensatz neu aus und implementiert kontinuierliche Dashboards zur Bias-Überwachung, um eine faire Leistung über alle Hauttöne hinweg sicherzustellen.
