XAI-Prüfung
Ein Überprüfungsprozess, bei dem bewertet wird, ob die Ergebnisse der KI-Erklärbarkeit den internen Richtlinien und regulatorischen Anforderungen entsprechen, um eine ausreichende Transparenz zu gewährleisten.
Definition
Eine systematische Untersuchung — durch interne Compliance-Teams oder externe Prüfer — von Erklärungsartefakten und deren Vergleich mit politischen Checklisten (z. B. „Beinhaltet jede Entscheidung mit hohem Risiko eine kontrafaktische Erklärung?“) , regulatorische Mandate (z. B. das Recht auf Erklärung der DSGVO) und die Bedürfnisse der Interessengruppen. Das Audit bewertet sowohl die technische Korrektheit als auch die Nutzbarkeit, dokumentiert die Ergebnisse und erstellt Pläne zur Behebung von Lücken in der Erläuterung, dem Umfang oder der Qualität.
Real-World Example
Eine Finanzaufsichtsbehörde führt ein XAI-Audit der Bonitätsbewertungs-KI einer Bank durch. Prüfer nehmen Stichproben von Ablehnungen vor, überprüfen die entsprechenden Erklärungen, stellen sicher, dass jede einzelne klare Begründung und Abhilfemaßnahmen enthält, und bestätigen, dass die Erklärungsprotokolle für den vorgeschriebenen Zeitraum von fünf Jahren aufbewahrt werden. Fehlende oder unzureichende Erklärungen veranlassen die Bank zu Korrekturmaßnahmen.
.svg)
