Glossar
Aktualisiert
Metriken zur Bewertung von Erklärungseigenschaften wie Treue (wie gut Erklärungen mit dem tatsächlichen Modellverhalten übereinstimmen), Stabilität (Konsistenz von Erklärungen bei ähnlichen Eingaben), Vollständigkeit (Abdeckung von Schlüsselmerkmalen) und Einfachheit (Prägnanz für Anwender). Die Governance nutzt diese Metriken, um Erklärungsmethoden zu bewerten, Akzeptanzschwellen festzulegen und Verbesserungen im Zeitverlauf zu verfolgen.
Beispiel
Die Betrugswarnungserklärungen einer E-Commerce-Plattform werden auf ihre Zuverlässigkeit hin bewertet, indem die Korrelation zwischen den Rankings der Merkmalszuordnung und der tatsächlichen Modellsensitivität gemessen wird. Nur Erklärungsmodelle mit einer Zuverlässigkeit von > 0,85 werden für Endbenutzer-Dashboards freigegeben, wodurch zuverlässige Erkenntnisse für Prüfer gewährleistet sind.