Modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et décisions.
Cela implique de choisir des algorithmes intrinsèquement interprétables (arbres de décision, listes de règles) ou de concevoir des modèles hybrides qui concilient précision et transparence. Les meilleures pratiques de gouvernance incluent la documentation de la logique des modèles, les tests utilisateurs visant à évaluer la clarté des explications, ainsi que la limitation des modèles opaques aux applications à faible risque lorsque des alternatives explicables existent.
Un prêteur hypothécaire utilise un modèle explicable d’arbre de décision pour les approbations initiales de prêt. Chaque chemin de décision est traduit en règles en langage clair (par ex., « Si le revenu > 50 k$ et le score de crédit > 700, approuver »), permettant aux agents de crédit et aux auditeurs de relier chaque approbation directement à des critères lisibles par l’humain.
