IA explicable (XAI)
Des systèmes d'IA conçus pour fournir des justifications compréhensibles par l'homme à leurs décisions et à leurs actions, améliorant ainsi la transparence et la confiance.
Définition
Techniques et cadres qui génèrent des explications claires et adaptées au contexte (attributions de fonctionnalités, extractions de règles, scénarios contrefactuels) adaptées aux besoins des parties prenantes (utilisateurs finaux, régulateurs, développeurs). La gouvernance XAI inclut la standardisation des formats d'explication, la validation de la fidélité des explications et la formation des utilisateurs à leur interprétation correcte.
Exemple concret
Une société émettrice de cartes de crédit utilise XAI en intégrant les explications LIME à ses alertes de fraude : lorsque l'IA signale une transaction comme suspecte, elle indique à l'utilisateur que « Localisation inhabituelle du commerçant » et « Montant de transaction élevé » sont les principaux contributeurs, ce qui permet une vérification plus rapide et réduit les escalades de faux positifs de 30 %.
.svg)
