En IA, cela se réfère à un traitement injuste des individus ou des groupes basé sur des biais dans les données ou les algorithmes, conduisant à des résultats inégaux.
Se produit lorsque les prédictions ou décisions d’un modèle désavantagent systématiquement des catégories protégées (origine ethnique, genre, âge). La gouvernance exige de définir des métriques de discrimination (p. ex., égalité des chances, parité démographique), d’intégrer des contraintes d’équité dans l’entraînement et d’auditer les modèles déployés afin de détecter tout impact disparate, avec des plans de remédiation lorsque les seuils sont dépassés.
L’outil de prédiction des admissions d’une université attribue des probabilités d’admission plus faibles aux étudiants de première génération. Un audit d’équité révèle que des caractéristiques corrélées aux candidatures héritées sont à l’origine de cet écart. Le service des admissions supprime ces variables proxy et réentraîne le modèle afin d’atteindre des taux de vrais positifs équivalents entre les différents profils d’étudiants.
