Während beide darauf abzielen, KI-Entscheidungen verständlich zu machen, konzentriert sich die Erklärbarkeit auf die Begründung der Entscheidungen, während sich die Interpretierbarkeit auf die Transparenz der internen Mechanismen des Modells bezieht.
Interpretierbarkeit: Klarheit darüber, wie interne Modellkomponenten (Gewichte, Merkmale) auf Ergebnisse abgebildet werden – üblich bei einfachen Modellen (lineare Regression). Erklärbarkeit: nachträgliche Generierung menschenfreundlicher Begründungen (warum eine Entscheidung getroffen wurde) für jedes Modell, selbst für Black-Box-Modelle. Governance erfordert die Wahl der richtigen Balance: nach Möglichkeit interpretierbare Modelle und, wo dies nicht möglich ist, Erklärbarkeitswerkzeuge.
Eine Bank entscheidet sich für ein logistisches Regressionsmodell zur Kreditwürdigkeitsprüfung aufgrund seiner Interpretierbarkeit (Koeffizienten zeigen den Einfluss von Merkmalen direkt). Für ihren bildbasierten Betrugserkenner (ein neuronales Netz) nutzt sie Erklärbarkeit (Saliency-Maps), da das Modell selbst nicht von Natur aus interpretierbar ist.
