Glossar
Aktualisiert
Die Gesamtheit der Methoden (Ersatzmodelle, Feature-Attribution, Kontrafakten) und Prozesse (Dokumentation, benutzerfreundliche Dashboards), die KI-Entscheidungen transparent machen, sodass Stakeholder die Ergebnisse nachvollziehen, hinterfragen und ihnen vertrauen können.
Beispiel
Ein Scoring-Modell für Kreditwürdigkeit nutzt SHAP, um aufzuzeigen, welche finanziellen Faktoren (z. B. eine „kurze Kredithistorie“) zu einer Ablehnung geführt haben. Kreditsachbearbeiter prüfen diese Erläuterungen zusammen mit der Empfehlung der KI. Dies ermöglicht es Antragstellern, Ungenauigkeiten zu korrigieren und eine manuelle Prüfung zu beantragen.