Discrimination
Dans l'IA, fait référence au traitement injuste d'individus ou de groupes sur la base de biais dans les données ou les algorithmes, entraînant des résultats inégaux.
Définition
Se produit lorsque les prévisions ou les décisions des modèles désavantagent systématiquement les classes protégées (race, sexe, âge). La gouvernance nécessite de définir des indicateurs de discrimination (par exemple, égalité des chances, parité démographique), d'intégrer des contraintes d'équité dans la formation et d'auditer les modèles déployés pour détecter les impacts disparates, avec des plans de remédiation en cas de dépassement des seuils.
Exemple concret
L'outil de prédiction des admissions d'une université réduit les probabilités d'admission pour les étudiants de première génération. Un audit d'équité révèle des caractéristiques liées aux anciens candidats à l'origine de la disparité. Le bureau des admissions supprime ces proxys et remanie le modèle pour atteindre des taux de vrais positifs égaux dans tous les milieux d'études.
.svg)
