Glossar
Aktualisiert
Interpretierbarkeit: Klarheit darüber, wie interne Modellkomponenten (Gewichtungen, Merkmale) auf Ergebnisse abgebildet werden, häufig bei einfachen Modellen (lineare Regression). Erklärbarkeit: Post-hoc-Generierung von verständlichen Begründungen (warum eine Entscheidung getroffen wurde) für jedes Modell, selbst für Blackboxen. Governance erfordert die Wahl des richtigen Gleichgewichts: interpretierbare Modelle, wo dies möglich ist, und Erklärbarkeitswerkzeuge, wo dies nicht der Fall ist.
Beispiel
Eine Bank entscheidet sich bei der Kreditwürdigkeitsprüfung aufgrund der leichten Interpretierbarkeit (Koeffizienten zeigen den Einfluss von Merkmalen direkt auf) für ein logistisches Regressionsmodell. Für ihren bildbasierten Betrugsdetektor (ein neuronales Netz) nutzt sie Erklärbarkeit (Saliency Maps), da das Modell selbst von Natur aus nicht interpretierbar ist.