Dernière mise à jour :
Systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme pour leurs décisions et actions, renforçant ainsi la transparence et la confiance.
Techniques et frameworks qui génèrent des explications claires et adaptées au contexte - attributions de caractéristiques, extractions de règles, scénarios contrefactuels - adaptées aux besoins des parties prenantes (utilisateurs finaux, régulateurs, développeurs). La gouvernance de l'XAI comprend la standardisation des formats d'explication, la validation de la fidélité de l'explication et la formation des utilisateurs à les interpréter correctement.
Exemple concret :
Une société de cartes de crédit utilise l'XAI en intégrant les explications LIME dans ses alertes de fraude : lorsque l'IA signale une transaction comme suspecte, elle indique à l'utilisateur que la « Localisation inhabituelle du commerçant » et le « Montant élevé de la transaction » ont été les principaux facteurs contributifs, permettant ainsi une vérification plus rapide et réduisant de 30 % les escalades de faux positifs.
