Évaluation des risques
Processus d'identification, d'analyse et de hiérarchisation des dommages ou défaillances potentiels des systèmes d'IA afin de déterminer les stratégies d'atténuation appropriées.
Définition
Activité systématique qui répertorie les menaces (par exemple, biais, atteintes à la vie privée, exploits de sécurité), évalue leur probabilité et leur impact potentiel (financier, réputation, sécurité) et les classe par score de risque. Le résultat est un registre des risques qui oriente la planification des mesures d'atténuation. Les évaluations des risques sont revues chaque fois que les modèles, les données ou les contextes opérationnels changent, afin de garantir que les menaces émergentes sont capturées tout au long du cycle de vie de l'IA.
Exemple concret
Avant de déployer une IA pour les décisions de crédit, l'équipe des risques d'une banque cartographie les risques (par exemple, faux positifs refusant le crédit, fuites de données), attribue des notes de vraisemblance/d'impact et identifie les principaux risques. Ils développent ensuite des contrôles ciblés (évaluation humaine améliorée des demandes refusées et journalisation cryptée) pour traiter les éléments les plus prioritaires.
.svg)
