Réduction des biais
Techniques appliquées lors du développement de l'IA pour réduire ou éliminer les biais dans les modèles et les ensembles de données.
Définition
Suite d'interventions — prétraitement (rééquilibrage ou repondération des données), traitement en cours (objectifs d'apprentissage tenant compte de l'équité) et post-traitement (ajustement des prédictions pour répondre aux critères d'équité) — qui réduisent systématiquement les disparités indésirables. Les meilleures pratiques de gouvernance incluent la sélection de stratégies d'atténuation adaptées à la tolérance au risque et aux besoins de conformité de l'organisation.
Exemple concret
Un outil de justice pénale qui prédit le risque de récidive applique un algorithme d'atténuation des biais : pendant la formation, il ajoute une pénalité d'équité qui réduit les écarts de prédiction entre les accusés blancs et noirs. Après la reconversion, les taux de prédiction de la récidive sont statistiquement équivalents pour tous les groupes raciaux, et les directives de déploiement de l'outil sont mises à jour en conséquence.
.svg)
