Dernière mise à jour :
Techniques appliquées lors du développement de l'IA afin de réduire ou d'éliminer les biais au sein des modèles et des ensembles de données.
Un ensemble d'interventions — pré-traitement (rééquilibrage ou pondération des données), traitement (objectifs d'apprentissage intégrant l'équité) et post-traitement (ajustement des prédictions pour répondre aux critères d'équité) — qui réduisent systématiquement les disparités indésirables. Les meilleures pratiques de gouvernance incluent la sélection de stratégies d'atténuation alignées sur la tolérance au risque et les exigences de conformité de l'organisation.
Exemple concret :
Un outil de justice pénale qui prédit le risque de récidive applique un algorithme d'atténuation des biais : pendant la phase d'apprentissage, il ajoute une pénalité d'équité qui réduit les écarts de prédiction entre les prévenus blancs et noirs. Après réapprentissage, les taux de prédiction de récidive sont statistiquement équivalents entre les différents groupes ethniques, et les directives de déploiement de l'outil sont mises à jour en conséquence.
