Le processus structuré d'identification, d'évaluation et de réduction des risques découlant des modèles IA/ML tout au long de leur cycle de vie.
Une discipline de gouvernance qui traite les modèles comme des actifs d’entreprise — en les cataloguant, en évaluant les risques (performance, équité, sécurité) et en appliquant des contrôles (validation, surveillance, planification de contingence). Elle intègre des politiques, des rôles (propriétaires de modèles, comités des risques), des outils (inventaires de modèles, tableaux de bord des risques) et des flux de travail (revues périodiques des risques, voies d’escalade) afin de garantir que les risques liés aux modèles demeurent dans des limites acceptables.
Une banque tient à jour un inventaire de modèles dans lequel chaque modèle de ML est étiqueté selon son niveau de risque. Chaque mois, le Comité des risques liés aux modèles examine les rapports de validation des modèles à haut risque, approuve les plans de remédiation pour toute dérive de performance et veille à ce que des processus manuels de repli soient en place en cas de défaillance des modèles.
