Glossar
Aktualisiert
Systematische Abweichungen in den Ergebnissen künstlicher Intelligenz, die bestimmte Gruppen ungerechtfertigt bevorzugen oder benachteiligen. Sie entstehen durch verzerrte Datensätze, fehlerhafte Kennzeichnungen oder ungenau definierte Zielsetzungen und erfordern eine systematische Erkennung, Messung und Risikominderung.
Beispiel
Ein Gesichtserkennungssystem, das überwiegend mit hellhäutigen Gesichtern trainiert wurde, weist bei Personen mit dunklerer Hautfarbe höhere Fehlerraten auf. Der Anbieter nimmt eine Neugewichtung seines Trainingsdatensatzes vor und implementiert fortlaufende Dashboards zur Überwachung von Verzerrungen, um eine gerechte Leistung über alle Hauttöne hinweg zu gewährleisten.