Indicateurs d'équité
Mesures quantitatives (par exemple, parité démographique, chances égalisées) utilisées pour évaluer dans quelle mesure les prédictions d'un modèle d'IA sont justes entre les groupes.
Définition
Fournir des critères objectifs pour détecter et surveiller les disparités de résultats entre les groupes. Les mesures courantes incluent : la parité démographique (taux de prédiction positive égaux), les chances égalisées (taux de vrais et faux positifs égaux) et l'étalonnage (le risque prédit correspond aux résultats observés). Les cadres de gouvernance obligent à sélectionner des indicateurs appropriés pour chaque cas d'utilisation et à les suivre en permanence afin de faire appliquer les SLA en matière d'équité.
Exemple concret
Le modèle prédictif d'admission d'une université fait état des différences de parité démographique tous les trimestres. Lorsque les taux de prédiction positive des candidates tombent en dessous de 95 % de ceux des candidats masculins, une alerte déclenche un examen d'équité. L'équipe ajuste les seuils de décision pour respecter la règle de parité de 0,8 et documente le changement dans le tableau de bord de l'équité.
.svg)
