Framework XAI
Une approche structurée ou un ensemble de directives que les organisations utilisent pour mettre en œuvre, mesurer et régir les pratiques d'explicabilité dans leurs systèmes d'IA.
Définition
Un programme formalisé, comprenant souvent des documents de politique, des normes techniques et des flux de travail de processus, qui prescrit quand et comment appliquer les techniques d'explicabilité, définit les formats d'explication requis (par exemple, textuels, visuels), définit les rôles (responsables des explications, auditeurs) et établit des points de contrôle (revue de conception, validation préalable au déploiement, audits périodiques). Il garantit un déploiement XAI cohérent et auditable, aligné sur les risques organisationnels et les exigences réglementaires.
Exemple concret
Un professionnel de santé adopte un cadre XAI qui impose : (1) tous les modèles de diagnostic incluent des explications locales pour chaque prédiction ; (2) la fidélité des explications doit dépasser 90 %, mesurée en accord avec les influences des caractéristiques de base ; et (3) des audits XAI trimestriels valident que les explications restent exactes après le recyclage du modèle.
.svg)
