Un processus d'évaluation systématique pour identifier et traiter les implications éthiques ainsi que les impacts sociétaux potentiels des systèmes d'IA avant leur déploiement.
Une évaluation structurée — comparable à une étude d’impact environnemental — qui examine les cas d’usage envisagés, les parties prenantes concernées, les sources de données, les biais potentiels et les effets sociétaux en aval. Elle aboutit à un plan d’action pour l’atténuation des risques, les consultations des parties prenantes et le suivi post-déploiement. L’Ethics-IA est souvent imposée par les cadres de gouvernance et contribue à mettre en évidence les préjudices involontaires.
Avant de déployer une IA de police prédictive, une municipalité réalise une évaluation de l’impact éthique : elle mobilise des représentants de la communauté, simule des scénarios de déploiement, identifie les risques de surpolice dans les zones à forte population minoritaire et adapte les seuils de risque du modèle ainsi que les protocoles de supervision afin de protéger les libertés civiles.
