Zuletzt aktualisiert am:
Verfahren, die während der KI-Entwicklung angewendet werden, um Verzerrungen in Modellen und Datensätzen zu reduzieren oder zu eliminieren.
Eine Reihe von Interventionen – Vorverarbeitung (Wiederherstellung des Gleichgewichts oder Neugewichtung von Daten), In-Processing (Fairness-bewusste Lernziele) und Nachverarbeitung (Anpassung von Vorhersagen zur Erfüllung von Fairness-Kriterien) –, die unerwünschte Disparitäten systematisch reduzieren. Zu den Best Practices der Governance gehört die Auswahl von Minderungsstrategien, die auf die Risikotoleranz und die Compliance-Anforderungen der Organisation abgestimmt sind.
Praxisbeispiel:
Ein Instrument der Strafjustiz zur Vorhersage des Rückfallrisikos wendet einen Algorithmus zur Verzerrungsminimierung an: Während des Trainings wird ein Fairness-Malus hinzugefügt, der die Diskrepanz in den Vorhersagen zwischen weißen und schwarzen Angeklagten verringert. Nach dem erneuten Training sind die Raten der Rückfallprognosen über alle ethnischen Gruppen hinweg statistisch äquivalent, und die Richtlinien für den Einsatz des Instruments werden entsprechend aktualisiert.
