Dernière mise à jour :
Dans le domaine de l'intelligence artificielle, ce terme désigne le traitement injuste d'individus ou de groupes en raison de biais présents dans les données ou les algorithmes, entraînant des disparités de traitement.
Se produit lorsque les prédictions ou les décisions du modèle désavantagent systématiquement des classes protégées (origine ethnique, genre, âge). La gouvernance exige de définir des mesures de discrimination (par exemple, l'égalité des chances, la parité démographique), d'intégrer des contraintes d'équité lors de l'entraînement et d'auditer les modèles déployés pour détecter d'éventuels impacts disparates, tout en prévoyant des plans de remédiation en cas de franchissement des seuils.
Exemple concret :
L'outil de prédiction des admissions d'une université génère des probabilités d'admission inférieures pour les étudiants de première génération. Un audit d'équité révèle que des critères corrélés aux candidats issus de familles d'anciens élèves accentuent cette disparité. Le bureau des admissions supprime ces variables indirectes et réentraîne le modèle afin d'obtenir des taux de vrais positifs équivalents, quelle que soit l'origine sociale des étudiants.
