Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Un examen ciblé qui catégorise les préjudices (sécurité, confidentialité, économiques, réputationnels) propres à l’application d’IA. Il s’appuie sur la cartographie des impacts sur les parties prenantes, l’évaluation gravité-probabilité et la planification des mesures d’atténuation (modifications de conception, garde-fous, supervision humaine). Les résultats alimentent les registres de risques et déterminent s’il convient de poursuivre, de suspendre ou de repenser le système.
Avant de déployer une IA de décision automatisée en matière de crédit, une banque réalise une évaluation des risques de préjudice : elle identifie les préjudices économiques potentiels (refus de services), les préjudices réputationnels (réaction négative du public) et propose des mesures d’atténuation (processus de recours, comités d’examen externes). Cela garantit que les parcours décisionnels et les canaux d’assistance aux utilisateurs sont en place avant la mise en production.
