Glossar
Aktualisiert
Eine Reihe von Interventionen, die unerwünschte Disparitäten systematisch reduzieren: Vorverarbeitung (Neuausgleich oder Neugewichtung von Daten), In-Processing (Fairness-bewusste Lernziele) und Nachverarbeitung (Anpassung von Vorhersagen zur Erfüllung von Fairness-Kriterien). Zu den Best Practices der Governance gehört die Auswahl von Minderungsstrategien, die auf die Risikotoleranz und die Compliance-Anforderungen der Organisation abgestimmt sind.
Beispiel
Ein Instrument der Strafjustiz zur Vorhersage des Rückfallrisikos wendet einen Algorithmus zur Verzerrungsminimierung an: Während des Trainings wird ein Fairness-Malus hinzugefügt, der die Diskrepanz in den Vorhersagen zwischen weißen und schwarzen Angeklagten verringert. Nach dem erneuten Training sind die Raten der Rückfallprognosen über alle ethnischen Gruppen hinweg statistisch äquivalent, und die Richtlinien für den Einsatz des Instruments werden entsprechend aktualisiert.