Techniques et documentation qui rendent la logique décisionnelle d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Une combinaison de méthodes intrinsèques (modèles interprétables) et a posteriori (SHAP, LIME, contrefactuels) qui mettent en évidence l’importance des variables, les règles de décision ou des scénarios de résultats alternatifs. La gouvernance exige de sélectionner des techniques d’explicabilité adaptées au modèle et au public, d’intégrer les explications dans les interfaces utilisateur ou les rapports de conformité, et de valider que les explications reflètent fidèlement le comportement du modèle.
Un modèle de détection de fraude par carte de crédit fournit des explications SHAP avec chaque alerte : « Principaux facteurs : localisation inhabituelle, montant de transaction atypique. » Les analystes fraude utilisent ces explications pour hiérarchiser les alertes plus efficacement, et les régulateurs examinent les rapports SHAP lors des inspections de conformité.
