Dernière mise à jour :
Mesures quantitatives ou qualitatives (par exemple, scores d'importance des fonctionnalités, fidélité des explications) utilisées pour évaluer la qualité et la fiabilité des explications fournies par l'IA.
Métriques d'évaluation des propriétés d'explication telles que la fidélité (mesurant à quel point les explications reflètent le comportement réel du modèle), la stabilité (cohérence des explications pour des entrées similaires), l'exhaustivité (couverture des fonctionnalités clés) et la simplicité (concision pour l'utilisateur). La gouvernance s'appuie sur ces métriques pour comparer les méthodes d'explication, définir des seuils d'acceptation et suivre les améliorations au fil du temps.
Exemple concret :
Les explications relatives aux alertes de fraude d'une plateforme d'e-commerce sont évaluées en termes de fidélité en mesurant la corrélation entre le classement de l'attribution des caractéristiques et la sensibilité réelle du modèle. Seules les méthodes d'explication présentant une fidélité supérieure à 0,85 sont approuvées pour les tableaux de bord des utilisateurs finaux, garantissant ainsi des analyses fiables pour les enquêteurs.
