Techniques appliquées lors du développement de l'IA pour réduire ou éliminer les biais dans les modèles et les ensembles de données.
Un ensemble d’interventions — prétraitement (rééquilibrage ou repondération des données), traitement en cours de modèle (objectifs d’apprentissage sensibles à l’équité) et post-traitement (ajustement des prédictions afin de satisfaire aux critères d’équité) — qui réduisent systématiquement les disparités indésirables. Les bonnes pratiques de gouvernance incluent la sélection de stratégies d’atténuation alignées sur la tolérance au risque de l’organisation et sur ses exigences de conformité.
Un outil de justice pénale qui prédit le risque de récidive applique un algorithme d’atténuation des biais : pendant l’entraînement, il ajoute une pénalité d’équité qui réduit les écarts de prédiction entre les prévenus blancs et noirs. Après réentraînement, les taux de prédiction de récidive sont statistiquement équivalents entre les groupes raciaux, et les directives de déploiement de l’outil sont mises à jour en conséquence.
