Zuletzt aktualisiert am:
Während beide Ansätze darauf abzielen, KI-Entscheidungen nachvollziehbar zu machen, konzentriert sich die Erklärbarkeit (Explainability) auf die Begründung von Entscheidungen, wohingegen sich die Interpretierbarkeit (Interpretability) auf die Transparenz der internen Funktionsweise des Modells bezieht.
Interpretierbarkeit: Klarheit darüber, wie interne Modellkomponenten (Gewichtungen, Merkmale) auf Ergebnisse abgebildet werden – häufig bei einfachen Modellen (lineare Regression). Erklärbarkeit: Post-hoc-Generierung von verständlichen Begründungen (warum eine Entscheidung getroffen wurde) für jedes Modell, selbst für Blackboxen. Governance erfordert die Wahl des richtigen Gleichgewichts: interpretierbare Modelle, wo dies möglich ist, und Erklärbarkeitswerkzeuge, wo dies nicht der Fall ist.
Praxisbeispiel:
Eine Bank entscheidet sich bei der Kreditwürdigkeitsprüfung aufgrund der leichten Interpretierbarkeit (Koeffizienten zeigen den Einfluss von Merkmalen direkt auf) für ein logistisches Regressionsmodell. Für ihren bildbasierten Betrugsdetektor (ein neuronales Netz) nutzt sie Erklärbarkeit (Saliency Maps), da das Modell selbst von Natur aus nicht interpretierbar ist.
