Dernière mise à jour :
Un processus d'évaluation visant à vérifier si les explications fournies par l'IA respectent les politiques internes et les exigences réglementaires, garantissant ainsi un niveau de transparence adéquat.
Un examen systématique — par des équipes de conformité internes ou des auditeurs externes — des artefacts d'explication, visant à les comparer à des listes de contrôle politiques (par exemple, « Chaque décision à haut risque inclut-elle une explication contrefactuelle ? »), à des exigences réglementaires (par exemple, le droit à l'explication du RGPD) et aux besoins des parties prenantes. L'audit évalue à la fois l'exactitude technique et l'utilisabilité, documente les conclusions et émet des plans de remédiation pour combler toute lacune dans la couverture ou la qualité des explications.
Exemple concret :
Un organisme de réglementation financière réalise un audit d'IA explicable (XAI) sur l'IA d'évaluation de crédit d'une banque. Les auditeurs échantillonnent les refus, examinent les explications correspondantes, vérifient que chacune comporte des justifications claires ainsi que des suggestions de mesures correctives, et confirment que les journaux d'explications sont conservés pendant la période obligatoire de cinq ans. Tout manque ou insuffisance dans les explications entraîne des mesures correctives de la part de la banque.
