Erklärbarkeit von KI
Das Ausmaß, in dem die internen Mechanismen eines KI-Systems von Menschen verstanden und interpretiert werden können.
Die Palette an Methoden (Surrogatmodelle, Merkmalsattribution, kontrafaktische Erklärungen) und Prozessen (Dokumentation, benutzerfreundliche Dashboards), die KI-Entscheidungen transparent machen, damit Stakeholder Ergebnisse verstehen, anfechten und ihnen vertrauen können.
Ein Kredit-Scoring-Modell nutzt SHAP, um hervorzuheben, welche finanziellen Faktoren (z. B. „geringe Kredithistorie“) eine Ablehnung beeinflusst haben. Kreditsachbearbeiter prüfen diese Erläuterungen zusammen mit der Empfehlung der KI, sodass Antragstellende Ungenauigkeiten korrigieren und eine menschliche Überprüfung beantragen können.
