Zuletzt aktualisiert am:
Das Ausmaß, in dem ein Mensch die internen Mechanismen oder die Entscheidungslogik eines KI-Modells verstehen kann.
Bezieht sich auf die inhärente Transparenz der Struktur eines Modells – z. B. lineare Modelle oder Entscheidungsbäume, bei denen sich die Auswirkungen von Merkmalen direkt auf die Ergebnisse übertragen lassen. Die Governance für Interpretierbarkeit fördert interpretierbare Modelle für Hochrisiko-Anwendungsfälle, dokumentiert die Modelllogik präzise und beschränkt intransparente Modelle auf Bereiche mit geringerem Risiko oder kombiniert sie mit Post-hoc-Erklärungsmethoden.
Praxisbeispiel:
Ein Team zur Kreditwürdigkeitsprüfung entscheidet sich für ein Entscheidungsbaummodell bei ersten Kreditgenehmigungen, da jeder Split direkt interpretiert werden kann („Einkommen > 50.000 $“). Sie legen den Stakeholdern die Logik des Entscheidungsbaums offen – dies gewährleistet eine vollständige Interpretierbarkeit und erleichtert behördliche Überprüfungen.
