Techniken, die während der KI-Entwicklung angewendet werden, um Vorurteile in Modellen und Datensätzen zu reduzieren oder zu beseitigen.
Eine Reihe von Maßnahmen – Preprocessing (Neugewichtung oder Reweighting von Daten), In-Processing (auf Fairness ausgerichtete Lernziele) und Postprocessing (Anpassung von Vorhersagen zur Erfüllung von Fairness-Kriterien) – die unerwünschte Ungleichheiten systematisch reduzieren. Zu den Governance-Best-Practices gehört die Auswahl von Minderungsstrategien, die auf die Risikotoleranz und die Compliance-Anforderungen der Organisation abgestimmt sind.
Ein Instrument der Strafjustiz, das das Rückfallrisiko prognostiziert, setzt einen Algorithmus zur Bias-Minderung ein: Während des Trainings fügt es eine Fairness-Strafkomponente hinzu, die Prognoseunterschiede zwischen weißen und schwarzen Angelagten reduziert. Nach dem erneuten Training sind die Rückfallprognoseraten über die ethnischen Gruppen hinweg statistisch äquivalent, und die Einsatzrichtlinien des Instruments werden entsprechend aktualisiert.
