Dernière mise à jour :
Des modèles d'apprentissage automatique conçus pour fournir des explications claires et compréhensibles de leurs prédictions et de leurs décisions.
Cela implique de choisir des algorithmes intrinsèquement interprétables (arbres de décision, listes de règles) ou de concevoir des modèles hybrides qui concilient précision et transparence. Les meilleures pratiques de gouvernance incluent la documentation de la logique des modèles, l'évaluation de la clarté des explications auprès des utilisateurs, et la restriction des modèles opaques aux applications à faible risque lorsqu'il existe des alternatives explicables.
Exemple concret :
Un prêteur hypothécaire utilise un modèle d'arbre de décision explicable pour les approbations initiales de prêts. Chaque chemin décisionnel est traduit en règles en langage clair (par exemple, « Si le revenu est > 50 000 $ et le score de crédit est > 700, approuver »), ce qui permet aux agents de crédit et aux auditeurs de relier directement chaque approbation à des critères compréhensibles par l'homme.
