Dernière mise à jour :
Le processus d'identification, d'analyse et de hiérarchisation des risques ou défaillances potentiels au sein des systèmes d'IA, afin de déterminer les stratégies d'atténuation appropriées.
Une activité systématique qui répertorie les menaces (par exemple, les biais, les violations de la vie privée, les failles de sécurité), évalue leur probabilité ainsi que leur impact potentiel (financier, réputationnel, sécuritaire), et les classe par score de risque. Le résultat est un registre des risques qui oriente la planification des mesures d'atténuation. Les évaluations des risques sont réexaminées chaque fois que les modèles, les données ou les contextes opérationnels changent, garantissant ainsi que les menaces émergentes soient appréhendées tout au long du cycle de vie de l'IA.
Exemple concret :
Avant de déployer une intelligence artificielle de décision de crédit, l'équipe de gestion des risques d'une banque cartographie les risques (par exemple, les faux positifs refusant un crédit, les fuites de données), attribue des évaluations de probabilité et d'impact, et identifie les risques majeurs. Elle élabore ensuite des contrôles ciblés – un examen humain renforcé pour les demandes refusées et un enregistrement chiffré des données – afin de traiter les éléments prioritaires.
