Dernière mise à jour :
Bien que ces deux concepts visent à rendre les décisions de l'IA compréhensibles, l'explicabilité se concentre sur le raisonnement qui sous-tend les décisions, tandis que l'interprétabilité concerne la transparence des mécanismes internes du modèle.
Interprétabilité : clarté sur la manière dont les composants internes du modèle (poids, variables) se traduisent en résultats - courante dans les modèles simples (régression linéaire). Explicabilité : génération a posteriori de justifications compréhensibles par l'homme (pourquoi une décision a été prise) pour n'importe quel modèle, même les boîtes noires. La gouvernance exige de trouver le juste équilibre : des modèles interprétables dans la mesure du possible, et des outils d'explicabilité là où ce n'est pas le cas.
Exemple concret :
Une banque choisit un modèle de régression logistique pour l'évaluation du crédit en raison de son interprétabilité (les coefficients montrent directement l'impact des variables). Pour son détecteur de fraude basé sur l'analyse d'images (un réseau de neurones), elle utilise l'explicabilité (cartes de saillance) car le modèle lui-même n'est pas intrinsèquement interprétable.
