Évaluation de l'impact éthique
Un processus d'évaluation systématique visant à identifier et à traiter les implications éthiques et les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Définition
Une évaluation structurée, semblable à une étude d'impact environnemental, qui passe en revue les cas d'utilisation prévus, les parties prenantes concernées, les sources de données, les biais potentiels et les effets sociétaux en aval. Il se termine par un plan d'action pour l'atténuation des risques, des consultations avec les parties prenantes et un suivi post-déploiement. L'Ethics-IA est souvent mandatée par des cadres de gouvernance et aide à mettre en évidence les préjudices involontaires.
Exemple concret
Avant de lancer une IA de police prédictive, une municipalité réalise une évaluation de l'impact éthique : elle engage les dirigeants communautaires, simule des scénarios de déploiement, identifie les risques d'une sursurveillance des zones minoritaires et adapte les seuils de risque et les protocoles de surveillance du modèle pour protéger les libertés civiles.
.svg)
