Des mesures quantitatives (par exemple, parité démographique, chances égalisées) utilisées pour évaluer la justice des prédictions d'un modèle d'IA à travers différents groupes.
Fournissez des critères objectifs pour détecter et surveiller les disparités de résultats entre groupes. Les métriques courantes incluent : la parité démographique (taux égaux de prédictions positives), l’égalité des chances conditionnelle (taux égaux de vrais/faux positifs) et la calibration (le risque prédit correspond aux résultats observés). Les cadres de gouvernance imposent de sélectionner des métriques appropriées pour chaque cas d’usage et d’en assurer un suivi continu afin de garantir le respect des SLA d’équité.
Le modèle d’admission prédictive d’une université communique trimestriellement les écarts de parité démographique. Lorsque les taux de prédiction positive des candidates passent sous le seuil de 95 % de ceux des candidats, une alerte déclenche un examen d’équité. L’équipe ajuste les seuils de décision afin de respecter la règle de parité de 0,8 et consigne la modification dans le tableau de bord d’équité.
