Évaluation des dommages
Évaluer les impacts négatifs potentiels (physiques, psychologiques, sociétaux) des systèmes d'IA et définir des stratégies d'atténuation.
Définition
Un examen ciblé qui classe les préjudices (sécurité, confidentialité, économie, réputation) spécifiques à l'application d'IA. Il utilise la cartographie de l'impact des parties prenantes, la notation de gravité et de probabilité et la planification des mesures d'atténuation (modifications de conception, garde-corps, supervision humaine). Les résultats alimentent les registres des risques et indiquent s'il faut poursuivre, suspendre ou remanier le système.
Exemple concret
Avant de lancer une IA de décision de crédit automatisée, une banque procède à une évaluation des préjudices : elle identifie les préjudices économiques potentiels (déni de services), les atteintes à la réputation (réaction négative du public) et propose des mesures d'atténuation (processus d'appel, comités d'évaluation externes). Cela garantit que les voies de décision et les canaux d'assistance aux utilisateurs sont en place avant le déploiement.
.svg)
