Glossaire
Mis à jour
Une évaluation structurée, semblable à une étude d'impact environnemental, qui examine les cas d'usage prévus, les parties prenantes concernées, les sources de données, les biais potentiels et les répercussions sociétales en aval. Elle aboutit à un plan d'action pour l'atténuation des risques, la consultation des parties prenantes et le suivi post-déploiement. L'analyse d'impact éthique de l'IA (Ethics-IA) est souvent requise par les cadres de gouvernance et permet de mettre en lumière les préjudices involontaires.
Exemple
Avant de lancer une IA de police prédictive, une municipalité réalise une évaluation de l'impact éthique : elle sollicite des leaders communautaires, simule des scénarios de déploiement, identifie les risques de surreprésentation policière dans les zones de minorités, et adapte les seuils de risque ainsi que les protocoles de surveillance du modèle afin de préserver les libertés publiques.