Zuletzt aktualisiert am:
Der Prozess der Identifizierung von Verzerrungen in KI-Modellen durch die Analyse ihrer Ergebnisse und Entscheidungsprozesse.
Der Einsatz quantitativer und qualitativer Techniken – statistische Disparitätstests, kontrafaktische Simulationen, Leistungsvergleiche von Subgruppen und Fehleranalyse-Dashboards –, um aufzuzeigen, wo und wie Modelle verschiedene Kohorten ungleich behandeln. Die Erkennung von Verzerrungen (Bias Detection) ist ein kontinuierlicher Prozess: Da sich Daten ständig weiterentwickeln, können neue Verzerrungen entstehen, die eine regelmäßige Neubewertung erfordern.
Praxisbeispiel:
Ein E-Commerce-Unternehmen lässt sein Produktempfehlungsmodell vierteljährlich eine Pipeline zur Erkennung von Verzerrungen durchlaufen, um zu überprüfen, ob bestimmte Kundensegmente weniger oder minderwertigere Vorschläge erhalten. Wenn die Klickrate der spanischsprachigen Zielgruppe hinter anderen zurückbleibt, trainieren Data Scientists das Modell mit ausgewogenen Stichproben des Nutzerverhaltens neu, um diese Diskrepanz zu beheben.
