Métriques XAI
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des caractéristiques, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications de l'IA.
Définition
Métriques qui évaluent les propriétés d'explication telles que la fidélité (mesure dans laquelle les explications correspondent au comportement réel du modèle), la stabilité (cohérence des explications sur des entrées similaires), l'exhaustivité (couverture des principales caractéristiques) et la simplicité (concision pour les utilisateurs). La gouvernance utilise ces indicateurs pour comparer les méthodes d'explication, définir des seuils d'acceptation et suivre les améliorations au fil du temps.
Exemple concret
La fidélité des explications d'alerte à la fraude d'une plateforme de commerce électronique est évaluée en fonction de la corrélation entre le classement par attribution des fonctionnalités et la sensibilité réelle du modèle. Seules les méthodes d'explication dont la fidélité est supérieure à 0,85 sont approuvées pour les tableaux de bord destinés aux utilisateurs finaux, ce qui garantit des informations fiables aux enquêteurs.
.svg)
