Quantitative oder qualitative Messgrößen (z. B. Wichtigkeitsscores von Funktionen, Erklärungsgenauigkeit), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen verwendet werden.
Metriken zur Bewertung von Erklärungseigenschaften wie Treue (wie gut Erklärungen dem tatsächlichen Modellverhalten entsprechen), Stabilität (Konsistenz von Erklärungen bei ähnlichen Eingaben), Vollständigkeit (Abdeckung zentraler Merkmale) und Einfachheit (Prägnanz für Anwender). Die Governance nutzt diese Metriken, um Erklärungsmethoden zu benchmarken, Akzeptanzschwellen festzulegen und Verbesserungen im Zeitverlauf nachzuverfolgen.
Die Erklärungen zu Betrugswarnungen einer E-Commerce-Plattform werden hinsichtlich ihrer Modelltreue bewertet, indem die Korrelation zwischen den Rangfolgen der Merkmalsattribution und der tatsächlichen Modellsensitivität gemessen wird. Nur Erklärungsmethoden mit einer Modelltreue von > 0,85 werden für Dashboards für Endanwender freigegeben, wodurch verlässliche Erkenntnisse für Ermittler sichergestellt werden.
