Techniques et méthodes qui rendent le processus de décision d'un modèle d'IA transparent et compréhensible pour les humains, favorisant ainsi la responsabilité et la conformité.
Une suite d’approches algorithmiques et de présentation — telles que les modèles de substitution (arbres de décision approximant le comportement de boîtes noires), les méthodes d’attribution de caractéristiques (SHAP, LIME), les explications contrefactuelles et les cartes de saillance — qui révèlent quelles entrées ont conduit à une prédiction donnée. L’XAI met l’accent sur la fidélité (exactitude des explications), l’intelligibilité (clarté pour les publics cibles) et la pertinence opérationnelle, et s’intègre à la fois au développement des modèles et aux outils destinés aux utilisateurs.
Une IA d’évaluation des prêts utilise SHAP pour produire des analyses détaillées par demandeur (« 35 % de pondération : revenus faibles ; 30 % de pondération : historique de crédit court ; 20 % de pondération : ratio d’endettement élevé »). Les analystes de crédit examinent ces explications en parallèle des scores du modèle afin de garantir des décisions équitables et peuvent fournir des justifications claires aux demandeurs comme aux autorités de réglementation.
