Minderung von Verzerrungen
Techniken, die während der KI-Entwicklung angewendet wurden, um Verzerrungen in Modellen und Datensätzen zu reduzieren oder zu eliminieren.
Definition
Eine Reihe von Interventionen — Vorverarbeitung (Neugewichtung oder Neugewichtung von Daten), In-Processing (fairnessbewusste Lernziele) und Postprocessing (Anpassung von Vorhersagen an Fairness-Kriterien) —, die unerwünschte Disparitäten systematisch reduzieren. Zu den bewährten Methoden der Unternehmensführung gehört die Auswahl von Strategien zur Risikominderung, die auf die Anforderungen des Unternehmens in Bezug auf Risikotoleranz und Compliance abgestimmt sind.
Real-World Example
Ein Strafrechtstool, das das Rückfallrisiko vorhersagt, wendet einen Algorithmus zur Minderung von Vorurteilen an: Während des Trainings wird eine Fairness-Strafe hinzugefügt, die die Prognoselücken zwischen weißen und schwarzen Angeklagten verringert. Nach der Umschulung sind die Rückfallvorhersageraten in allen Rassengruppen statistisch gleichwertig, und die Einsatzrichtlinien des Tools werden entsprechend aktualisiert.
.svg)
