Zuletzt aktualisiert am:
Systematische Fehler in KI-Ergebnissen, die durch voreingenommene Trainingsdaten oder fehlerhafte Algorithmen entstehen und zu ungerechten Resultaten führen.
Systematische Abweichungen in den Ergebnissen künstlicher Intelligenz, die bestimmte Gruppen ungerechtfertigt bevorzugen oder benachteiligen – verursacht durch verzerrte Datensätze, fehlerhafte Kennzeichnungen oder ungenau definierte Zielsetzungen – erfordern eine systematische Erkennung, Messung und Risikominderung.
Praxisbeispiel:
Ein Gesichtserkennungssystem, das überwiegend mit hellhäutigen Gesichtern trainiert wurde, weist bei Personen mit dunklerer Hautfarbe höhere Fehlerraten auf. Der Anbieter nimmt eine Neugewichtung seines Trainingsdatensatzes vor und implementiert fortlaufende Dashboards zur Überwachung von Verzerrungen, um eine gerechte Leistung über alle Hauttöne hinweg zu gewährleisten.
