Dernière mise à jour :
Techniques et documentation permettant de rendre la logique de décision d'un modèle d'IA compréhensible pour les parties prenantes et les auditeurs.
Une combinaison de méthodes intrinsèques (modèles interprétables) et post-hoc (SHAP, LIME, contrefactuels) qui révèlent l'importance des variables, les règles de décision ou les scénarios de résultats alternatifs. La gouvernance exige de sélectionner des techniques d'explicabilité adaptées au modèle et au public cible, d'intégrer les explications dans les interfaces utilisateur ou les rapports de conformité, et de valider que ces explications reflètent fidèlement le comportement du modèle.
Exemple concret :
Un modèle de détection des fraudes à la carte de crédit fournit des explications SHAP pour chaque alerte : « Principaux facteurs : localisation inhabituelle, montant de transaction atypique ». Les analystes de la fraude utilisent ces explications pour trier les alertes plus efficacement, et les régulateurs examinent les rapports SHAP lors des inspections de conformité.
