Zuletzt aktualisiert am:
Quantitative oder qualitative Kennzahlen (z. B. Feature-Importance-Scores, Erklärungs-Fidelity), die zur Bewertung der Qualität und Zuverlässigkeit von KI-Erklärungen herangezogen werden.
Metriken zur Bewertung von Erklärungseigenschaften wie Treue (wie gut Erklärungen mit dem tatsächlichen Modellverhalten übereinstimmen), Stabilität (Konsistenz von Erklärungen bei ähnlichen Eingaben), Vollständigkeit (Abdeckung von Schlüsselmerkmalen) und Einfachheit (Prägnanz für Anwender). Die Governance nutzt diese Metriken, um Erklärungsmethoden zu bewerten, Akzeptanzschwellen festzulegen und Verbesserungen im Zeitverlauf zu verfolgen.
Praxisbeispiel:
Die Betrugswarnungserklärungen einer E-Commerce-Plattform werden auf ihre Zuverlässigkeit hin bewertet, indem die Korrelation zwischen den Rankings der Merkmalszuordnung und der tatsächlichen Modellsensitivität gemessen wird. Nur Erklärungsmodelle mit einer Zuverlässigkeit von > 0,85 werden für Endbenutzer-Dashboards freigegeben, wodurch zuverlässige Erkenntnisse für Prüfer gewährleistet sind.
