Bien que les deux visent à rendre compréhensibles les décisions de l'IA, l'explicabilité se concentre sur le raisonnement derrière les décisions, tandis que l'interprétabilité se rapporte à la transparence des mécaniques internes du modèle.
Interprétabilité : clarté sur la manière dont les composants internes du modèle (poids, caractéristiques) se traduisent en résultats — courante dans les modèles simples (régression linéaire). Explicabilité : génération a posteriori de justifications compréhensibles par l’humain (pourquoi une décision a été prise) pour tout modèle, y compris les boîtes noires. La gouvernance exige de choisir le bon équilibre : des modèles interprétables lorsque cela est possible, et des outils d’explicabilité lorsque ce n’est pas le cas.
Une banque choisit un modèle de régression logistique pour la notation de crédit en raison de son interprétabilité (les coefficients montrent directement l’impact des caractéristiques). Pour son détecteur de fraude basé sur des images (un réseau de neurones), elle utilise l’explicabilité (cartes de saillance), car le modèle lui-même n’est pas intrinsèquement interprétable.
