Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications d'IA.
Des métriques évaluent les propriétés des explications, telles que la fidélité (dans quelle mesure les explications correspondent au comportement réel du modèle), la stabilité (cohérence des explications pour des entrées similaires), l’exhaustivité (couverture des caractéristiques clés) et la simplicité (concision pour les utilisateurs). La gouvernance s’appuie sur ces métriques pour comparer les méthodes d’explication, définir des seuils d’acceptation et suivre l’amélioration au fil du temps.
Les explications d’alertes à la fraude d’une plateforme d’e-commerce sont évaluées en termes de fidélité en mesurant la corrélation entre les classements d’attribution des caractéristiques et la sensibilité réelle du modèle. Seules les méthodes d’explication dont la fidélité est > 0,85 sont approuvées pour les tableaux de bord destinés aux utilisateurs finaux, garantissant des informations fiables pour les enquêteurs.
