Dernière mise à jour :
Le degré de clarté avec lequel un être humain peut appréhender les mécanismes internes ou la logique de décision d'un modèle d'intelligence artificielle.
Fait référence à la transparence inhérente de la structure d'un modèle, par exemple les modèles linéaires ou les arbres de décision où l'impact des caractéristiques se traduit directement par des résultats. La gouvernance de l'interprétabilité encourage l'utilisation de modèles interprétables pour les cas d'usage à haut risque, documente clairement la logique des modèles et limite l'utilisation de modèles opaques aux domaines à faible risque ou les associe à des méthodes d'explication post-hoc.
Exemple concret :
Une équipe d'évaluation du crédit opte pour un modèle d'arbre de décision concernant les approbations initiales de prêts, car chaque division peut être directement interprétée (« revenu > 50 000 $ »). Elle publie la logique de l'arbre auprès des parties prenantes, garantissant ainsi une interprétabilité totale et facilitant les examens réglementaires.
