Erkennung von Verzerrungen
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Definition
Der Einsatz quantitativer und qualitativer Techniken — statistische Disparitätstests, kontrafaktische Simulationen, Leistungsvergleiche von Teilgruppen und Dashboards zur Fehleranalyse —, um herauszufinden, wo und wie Modelle verschiedene Kohorten ungleich behandeln. Die Erkennung von Verzerrungen erfolgt kontinuierlich: Wenn sich die Daten weiterentwickeln, können neue Verzerrungen auftreten, die in regelmäßigen Abständen neu bewertet werden müssen.
Real-World Example
Ein E-Commerce-Unternehmen unterzieht sein Produktempfehlungsmodell vierteljährlich einer Pipeline zur Erkennung von Vorurteilen und prüft, ob bestimmte demografische Kundengruppen weniger oder qualitativ schlechtere Vorschläge erhalten. Wenn die Klickrate des hispanischen Segments hinter anderen zurückbleibt, trainieren Datenwissenschaftler das Modell mit ausgewogenen Stichproben zum Nutzerverhalten, um die Diskrepanz zu korrigieren.
.svg)
