Ein Überprüfungsprozess, der bewertet, ob die Ausgaben zur Erklärbarkeit von KI den internen Richtlinien und behördlichen Anforderungen entsprechen und ausreichende Transparenz gewährleisten.
Eine systematische Prüfung – durch interne Compliance-Teams oder externe Prüfer – von Erklärungsartefakten, bei der diese mit Richtlinien-Checklisten (z. B. „Enthält jede Entscheidung mit hohem Risiko eine kontrafaktische Erklärung?“), regulatorischen Vorgaben (z. B. dem DSGVO-Recht auf Erklärung) und den Anforderungen der Stakeholder abgeglichen werden. Das Audit bewertet sowohl die technische Korrektheit als auch die Benutzerfreundlichkeit, dokumentiert die Ergebnisse und erstellt Maßnahmenpläne zur Behebung etwaiger Lücken in der Abdeckung oder Qualität der Erklärungen.
Eine Finanzaufsichtsbehörde führt ein XAI-Audit der KI zur Kreditwürdigkeitsbewertung einer Bank durch. Die Prüfer nehmen Stichproben von Ablehnungen, prüfen die zugehörigen Erklärungen, verifizieren, dass jede klare Begründungen und Abhilfemaßnahmen enthält, und bestätigen, dass Erklärungsprotokolle für den vorgeschriebenen Zeitraum von fünf Jahren aufbewahrt werden. Fehlende oder unzureichende Erklärungen führen zu Korrekturmaßnahmen durch die Bank.
