Zuletzt aktualisiert am:
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für den Menschen transparent und nachvollziehbar machen und so die Rechenschaftspflicht und Compliance unterstützen.
Eine Reihe von algorithmischen und darstellerischen Ansätzen – wie etwa Surrogatmodelle (Entscheidungsbäume zur Annäherung an Black-Box-Verhalten), Methoden zur Merkmalszuordnung (SHAP, LIME), kontrafaktische Erklärungen und Saliency-Maps –, die aufzeigen, welche Eingabedaten eine bestimmte Vorhersage beeinflusst haben. XAI legt besonderen Wert auf Treue (Genauigkeit der Erklärungen), Verständlichkeit (Klarheit für die Zielgruppe) sowie handlungsrelevante Erkenntnisse und ist sowohl in die Modellentwicklung als auch in benutzerorientierte Tools integriert.
Praxisbeispiel:
Eine KI zur Kreditbewertung nutzt SHAP, um detaillierte Aufschlüsselungen pro Antragsteller zu erstellen („Gewichtung 35 %: geringes Einkommen; Gewichtung 30 %: kurze Kredithistorie; Gewichtung 20 %: hohe Schuldenquote“). Kreditsachbearbeiter prüfen diese Erläuterungen zusammen mit den Modell-Scores, um faire Entscheidungen zu gewährleisten, und können gegenüber Antragstellern sowie Regulierungsbehörden klare Begründungen liefern.
