Le processus d'identification, d'analyse et de hiérarchisation des dommages ou défaillances potentiels dans les systèmes d'IA afin de déterminer les stratégies d'atténuation appropriées.
Une activité systématique qui recense les menaces (p. ex., biais, violations de la confidentialité, failles de sécurité), évalue leur probabilité et leur impact potentiel (financier, réputationnel, sécurité), puis les hiérarchise selon un score de risque. Le résultat est un registre des risques qui oriente la planification des mesures d’atténuation. Les évaluations des risques sont réexaminées dès que les modèles, les données ou les contextes opérationnels évoluent, afin de garantir que les menaces émergentes soient prises en compte tout au long du cycle de vie de l’IA.
Avant de déployer une IA de décision de crédit, l’équipe de gestion des risques d’une banque cartographie les risques (p. ex., les faux positifs entraînant un refus de crédit, les fuites de données), attribue des niveaux de probabilité et d’impact, et identifie les principaux risques. Elle élabore ensuite des contrôles ciblés — examen humain renforcé des demandes refusées et journalisation chiffrée — afin de traiter les éléments les plus prioritaires.
