Ein Bewertungsprozess zur Erkennung und Minderung von Verzerrungen in KI-Systemen, um Fairness und die Einhaltung ethischer Standards sicherzustellen.
Eine strukturierte Überprüfung – häufig durch ein unabhängiges Team oder ein externes Unternehmen – die jede Phase des KI-Lebenszyklus (Datenerhebung, Vorverarbeitung, Modellierung, Evaluierung) auf Verzerrungen untersucht. Auditoren wenden statistische Tests (z. B. „Disparate Impact“), Werkzeuge zur Modell-Erklärbarkeit und Analysen von Nutzergruppen an. Der Prozess endet mit konkreten Empfehlungen zur Behebung sowie Aktualisierungen der Governance.
Eine Bank beauftragt ein Bias-Audit ihres KI-gestützten Kreditbewertungssystems. Die Prüfer nehmen Kreditentscheidungen nach demografischen Gruppen stichprobenartig unter die Lupe, stellen fest, dass Antragsteller aus bestimmten Postleitzahlgebieten überproportional häufig abgelehnt werden, und empfehlen Datenaugmentierung sowie neue Fairness-Restriktionen im Bewertungsalgorithmus; anschließend überwacht die Bank die Ablehnungsquoten monatlich, um den Fortschritt nachzuverfolgen.
