Glossaire
Mis à jour
Interprétabilité : clarté sur la manière dont les composants internes du modèle (poids, variables) se traduisent en résultats, courante dans les modèles simples (régression linéaire). Explicabilité : génération a posteriori de justifications compréhensibles par l'homme (pourquoi une décision a été prise) pour n'importe quel modèle, même les boîtes noires. La gouvernance exige de trouver le juste équilibre : des modèles interprétables dans la mesure du possible, et des outils d'explicabilité là où ce n'est pas le cas.
Exemple
Une banque choisit un modèle de régression logistique pour l'évaluation du crédit en raison de son interprétabilité (les coefficients montrent directement l'impact des variables). Pour son détecteur de fraude basé sur l'analyse d'images (un réseau de neurones), elle utilise l'explicabilité (cartes de saillance) car le modèle lui-même n'est pas intrinsèquement interprétable.