Glossaire
Mis à jour
Se produit lorsque les prédictions ou les décisions du modèle désavantagent systématiquement des classes protégées (origine ethnique, genre, âge). La gouvernance exige de définir des mesures de discrimination (par exemple, l'égalité des chances, la parité démographique), d'intégrer des contraintes d'équité lors de l'entraînement et d'auditer les modèles déployés pour détecter d'éventuels impacts disparates, tout en prévoyant des plans de remédiation en cas de franchissement des seuils.
Exemple
L'outil de prédiction des admissions d'une université génère des probabilités d'admission inférieures pour les étudiants de première génération. Un audit d'équité révèle que des critères corrélés aux candidats issus de familles d'anciens élèves accentuent cette disparité. Le bureau des admissions supprime ces variables indirectes et réentraîne le modèle afin d'obtenir des taux de vrais positifs équivalents, quelle que soit l'origine sociale des étudiants.