Gestion des risques liés aux modèles
Processus structuré d'identification, d'évaluation et d'atténuation des risques liés aux modèles d'IA/ML tout au long de leur cycle de vie.
Définition
Discipline de gouvernance qui traite les modèles comme des actifs de l'entreprise, en les cataloguant, en évaluant les risques (performance, équité, sécurité) et en appliquant des contrôles (validation, surveillance, planification d'urgence). Il intègre des politiques, des rôles (propriétaires de modèles, comités des risques), des outils (inventaires de modèles, tableaux de bord des risques) et des flux de travail (examens périodiques des risques, voies d'escalade) pour garantir que les risques liés aux modèles restent dans des limites acceptables.
Exemple concret
Une banque tient un inventaire des modèles dans lequel chaque modèle de machine learning est étiqueté par niveau de risque. Chaque mois, le Model Risk Committee examine les rapports de validation des modèles à haut risque, approuve les plans de correction pour toute dérive de performance et s'assure que des processus manuels de secours sont en place en cas d'échec des modèles.
.svg)
