Glossar
Aktualisiert
Eine Kombination aus inhärenten (interpretierbaren Modellen) und Post-hoc-Methoden (SHAP, LIME, kontrafaktische Analysen), die Merkmalsgewichtungen, Entscheidungsregeln oder alternative Ergebnisszenarien offenlegen. Zur Governance gehört es, Erklärbarkeitsmethoden auszuwählen, die auf das Modell und die Zielgruppe abgestimmt sind, Erklärungen in Benutzeroberflächen oder Compliance-Berichte einzubetten und zu validieren, dass die Erklärungen das Modellverhalten präzise widerspiegeln.
Beispiel
Ein Modell zur Kreditkartenbetrugserkennung liefert für jeden Alarm SHAP-Erklärungen: „Hauptfaktoren: ungewöhnlicher Ort, untypische Transaktionsgröße“. Betrugsanalysten nutzen diese Erklärungen, um Alarme effektiver zu bewerten, und Aufsichtsbehörden prüfen die SHAP-Berichte im Rahmen von Compliance-Prüfungen.