Zuletzt aktualisiert am:
Ein Evaluierungsprozess zur Erkennung und Abschwächung von Verzerrungen in KI-Systemen, der Fairness sowie die Einhaltung ethischer Standards gewährleistet.
Eine strukturierte Überprüfung – häufig durch ein unabhängiges Team oder eine externe Firma –, bei der jede Phase des KI-Lebenszyklus (Datenerfassung, Vorverarbeitung, Modellierung, Bewertung) auf Verzerrungen (Bias) untersucht wird. Die Auditoren wenden statistische Tests (z. B. auf unverhältnismäßige Auswirkungen), Tools zur Erklärbarkeit von Modellen sowie Analysen von Nutzergruppen an. Der Prozess schließt mit konkreten Empfehlungen zur Behebung und Aktualisierungen der Governance ab.
Praxisbeispiel:
Eine Bank gibt ein Audit zur Überprüfung von Verzerrungen (Bias Audit) ihrer KI für die Kreditwürdigkeitsprüfung in Auftrag. Die Prüfer untersuchen Stichproben von Kreditentscheidungen nach demografischen Gruppen und stellen fest, dass Antragsteller aus bestimmten Postleitzahlengebieten unverhältnismäßig oft abgelehnt werden. Sie empfehlen eine Datenerweiterung sowie neue Fairness-Vorgaben im Bewertungsalgorithmus, woraufhin die Bank die Ablehnungsquoten monatlich überwacht, um die Fortschritte zu verfolgen.
