Techniken und Methoden, die den Entscheidungsprozess eines KI-Modells für Menschen transparent und verständlich machen und somit Verantwortlichkeit und Compliance unterstützen.
Eine Suite aus algorithmischen und darstellungsbezogenen Ansätzen – wie Surrogatmodellen (Entscheidungsbäume, die das Verhalten von Black-Box-Modellen approximieren), Merkmalsattributionsmethoden (SHAP, LIME), kontrafaktischen Erklärungen und Salienz-Karten – die aufzeigt, welche Eingaben eine bestimmte Vorhersage beeinflusst haben. XAI legt den Schwerpunkt auf Fidelity (Genauigkeit der Erklärungen), Verständlichkeit (Klarheit für Zielgruppen) und umsetzbare Erkenntnisse und ist sowohl in die Modellentwicklung als auch in nutzerorientierte Werkzeuge integriert.
Eine KI zur Kreditbewertung verwendet SHAP, um applicantenspezifische Aufschlüsselungen zu erstellen („35 % Gewichtung: niedriges Einkommen; 30 % Gewichtung: kurze Kredithistorie; 20 % Gewichtung: hohe Verschuldungsquote“). Kreditprüfer prüfen diese Erläuterungen zusammen mit den Modellbewertungen, um faire Entscheidungen sicherzustellen, und können Antragstellern sowie Aufsichtsbehörden klare Begründungen bereitstellen.
