Dernière mise à jour :
Techniques et méthodes visant à rendre le processus de décision d'un modèle d'IA transparent et compréhensible pour l'homme, favorisant ainsi la responsabilité et la conformité.
Un ensemble d'approches algorithmiques et de présentation — telles que les modèles de substitution (arbres de décision approximant le comportement d'une boîte noire), les méthodes d'attribution de caractéristiques (SHAP, LIME), les explications contrefactuelles et les cartes de saillance — qui révèlent quels intrants ont motivé une prédiction particulière. L'XAI met l'accent sur la fidélité (exactitude des explications), la compréhensibilité (clarté pour les publics cibles) et les perspectives exploitables, et s'intègre aussi bien dans le développement de modèles que dans les outils destinés aux utilisateurs.
Exemple concret :
Une intelligence artificielle d'évaluation de crédit utilise SHAP pour produire des analyses détaillées par demandeur (« coefficient de 35 % : faible revenu ; coefficient de 30 % : historique de crédit court ; coefficient de 20 % : ratio d'endettement élevé »). Les analystes de crédit examinent ces explications parallèlement aux scores du modèle pour garantir des décisions équitables, et sont ainsi en mesure de fournir des justifications claires aux demandeurs ainsi qu'aux organismes de réglementation.
