Un processus de révision qui évalue si les résultats de l'explicabilité de l'IA satisfont aux politiques internes et aux exigences réglementaires, garantissant une transparence suffisante.
Un examen systématique — mené par les équipes internes de conformité ou par des auditeurs externes — des artefacts d’explicabilité, comparés à des listes de contrôle de politiques (par ex., « Chaque décision à haut risque inclut-elle une explication contrefactuelle ? »), à des obligations réglementaires (par ex., le droit à l’explication du RGPD) et aux besoins des parties prenantes. L’audit évalue à la fois la validité technique et l’utilisabilité, documente les constats et émet des plans de remédiation pour toute lacune dans la couverture ou la qualité des explications.
Un organisme de réglementation financière réalise un audit XAI de l’IA de notation de crédit d’une banque. Les auditeurs échantillonnent les refus, examinent les explications correspondantes, vérifient que chacune comporte des justifications claires et des suggestions de remédiation, et confirment que les journaux d’explication sont conservés pendant la période réglementaire de cinq ans. Toute explication manquante ou insuffisante donne lieu à des mesures correctives de la part de la banque.
