XAI (Erklärbare KI)
Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und so Rechenschaftspflicht und Compliance unterstützen.
Definition
Eine Reihe algorithmischer und Präsentationsansätze — wie Surrogatmodelle (Entscheidungsbäume, die das Blackbox-Verhalten approximieren), Merkmalsattributionsmethoden (SHAP, LIME), kontrafaktische Erklärungen und Salienzkarten —, die Aufschluss darüber geben, welche Eingaben zu einer bestimmten Vorhersage geführt haben. XAI legt Wert auf Genauigkeit (Genauigkeit der Erklärungen), Verständlichkeit (Klarheit für Zielgruppen) und umsetzbare Erkenntnisse und ist sowohl in die Modellentwicklung als auch in benutzerorientierte Tools integriert.
Real-World Example
Eine KI zur Kreditbewertung verwendet SHAP, um Aufschlüsselungen pro Antragsteller zu erstellen („35% Gewichtung: niedriges Einkommen; 30% Gewichtung: kurze Kredithistorie; 20% Gewichtung: hohe Schuldenquote“). Versicherer überprüfen diese Erklärungen zusammen mit Modellbewertungen, um faire Entscheidungen zu gewährleisten, und können Antragstellern und Aufsichtsbehörden klare Begründungen vorlegen.
.svg)
