Das Maß, in dem ein Mensch die inneren Mechanismen oder Entscheidungsgründe eines KI-Modells verstehen kann.
Bezieht sich auf die inhärente Transparenz der Struktur eines Modells – z. B. lineare Modelle oder Entscheidungsbäume, bei denen die Auswirkungen von Merkmalen direkt den Ausgaben zugeordnet werden. Die Governance der Interpretierbarkeit fördert interpretierbare Modelle für Anwendungsfälle mit hohem Risiko, dokumentiert die Modelllogik klar und beschränkt intransparente Modelle auf Bereiche mit geringerem Risiko oder kombiniert sie mit nachgelagerten Erklärungsmethoden.
Ein Kredit-Scoring-Team entscheidet sich für ein Entscheidungsbaummodell zur ersten Kreditgenehmigung, da jede Aufteilung direkt interpretiert werden kann („Einkommen > 50.000 $“). Es veröffentlicht die Logik des Baums gegenüber den Stakeholdern – und stellt damit vollständige Interpretierbarkeit sicher sowie die Durchführung regulatorischer Prüfungen.
