Glossaire
Mis à jour
Un examen systématique des artefacts d'explication par des équipes de conformité internes ou des auditeurs externes, visant à les comparer à des listes de contrôle des politiques internes (par exemple, « Chaque décision à haut risque inclut-elle une explication contrefactuelle ? »), à des exigences réglementaires (par exemple, le droit à l'explication du RGPD) et aux besoins des parties prenantes. L'audit évalue à la fois l'exactitude technique et l'utilisabilité, documente les conclusions et émet des plans de remédiation pour combler toute lacune dans la couverture ou la qualité des explications.
Exemple
Un organisme de réglementation financière réalise un audit d'IA explicable (XAI) sur l'IA d'évaluation de crédit d'une banque. Les auditeurs échantillonnent les refus, examinent les explications correspondantes, vérifient que chacune comporte des justifications claires ainsi que des suggestions de mesures correctives, et confirment que les journaux d'explications sont conservés pendant la période obligatoire de cinq ans. Tout manque ou insuffisance dans les explications entraîne des mesures correctives de la part de la banque.