Méthodes utilisées pour interpréter et comprendre les décisions prises par les modèles d'IA, telles que LIME, SHAP et les cartes de saillance.
Une boîte à outils d’approches indépendantes du modèle (LIME, SHAP) et spécifiques au modèle (cartes de saillance pour les CNN, visualisation de l’attention) qui génèrent des attributions de caractéristiques, visualisent les parcours de décision et produisent des explications contrefactuelles. Les bonnes pratiques de gouvernance incluent la sélection de techniques adaptées au type de modèle, la validation de la précision des explications et l’intégration des explications dans les flux de travail des utilisateurs finaux.
Une chaîne de distribution utilise SHAP pour expliquer ses prédictions d’attrition client : chaque enregistrement indique « dépenses mensuelles élevées » et « récentes réclamations de service » comme principaux facteurs contributifs. Les responsables de la réussite client utilisent ces explications pour adapter les offres de rétention, améliorant ainsi la satisfaction client.
