Les systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant la transparence et la confiance.
Des techniques et des cadres qui génèrent des explications claires et adaptées au contexte — attributions de caractéristiques, extractions de règles, scénarios contrefactuels — ajustées aux besoins des parties prenantes (utilisateurs finaux, régulateurs, développeurs). La gouvernance de l’XAI comprend la standardisation des formats d’explication, la validation de la fidélité des explications et la formation des utilisateurs à leur interprétation correcte.
Une société de cartes de crédit utilise l’XAI en intégrant des explications LIME à ses alertes de fraude : lorsque l’IA signale une transaction comme suspecte, elle indique à l’utilisateur que « Localisation inhabituelle du commerçant » et « Montant élevé de la transaction » ont été les principaux facteurs contributifs, ce qui permet une vérification plus rapide et réduit de 30 % les escalades de faux positifs.
