Explicabilité de l'IA
Le degré auquel la mécanique interne d'un système d'IA peut être comprise et interprétée par les humains.
L’ensemble des méthodes (modèles de substitution, attribution des caractéristiques, contrefactuels) et des processus (documentation, tableaux de bord conviviaux) qui rendent les décisions de l’IA transparentes, afin que les parties prenantes puissent comprendre, contester et faire confiance aux résultats.
Un modèle d’évaluation du crédit utilise SHAP pour mettre en évidence les facteurs financiers (p. ex., « antécédents de crédit insuffisants ») qui ont influencé un refus. Les agents de crédit examinent ces explications en parallèle de la recommandation de l’IA, ce qui permet aux demandeurs de corriger les inexactitudes et de solliciter un examen humain.
