Glossaire
Mis à jour
La suite de méthodes (modèles de substitution, attribution de caractéristiques, contrefactuels) et de processus (documentation, tableaux de bord intuitifs) qui rendent les décisions de l'IA transparentes, afin que les parties prenantes puissent en comprendre, contester et sécuriser les résultats.
Exemple
Un modèle d'évaluation du crédit utilise SHAP pour mettre en évidence les facteurs financiers (par exemple, un « historique de crédit insuffisant ») qui ont influencé un refus. Les agents de crédit examinent ces explications parallèlement aux recommandations de l'IA, permettant ainsi aux demandeurs de corriger les inexactitudes et de solliciter un examen humain.