Dernière mise à jour :
Mesures quantitatives (telles que la parité démographique ou l'égalité des chances) utilisées pour évaluer l'équité des prédictions d'un modèle d'IA au sein de différents groupes.
Fournir des critères objectifs pour détecter et surveiller les disparités de résultats au sein des groupes. Les mesures de référence comprennent notamment : la parité démographique (taux de prédiction positive égaux), l'égalité des chances (taux de vrais et faux positifs égaux), et le calibrage (le risque prédit correspond aux résultats observés). Les cadres de gouvernance imposent de sélectionner les mesures appropriées pour chaque cas d'usage et de les suivre en continu afin de garantir le respect des accords de niveau de service (SLA) en matière d'équité.
Exemple concret :
Le modèle d'admission prédictif d'une université publie chaque trimestre des rapports sur les écarts de parité démographique. Lorsque le taux de prédictions positives pour les candidates est inférieur à 95 % de celui des candidats, une alerte déclenche un examen de l'équité. L'équipe ajuste alors les seuils de décision pour respecter la règle de parité de 0,8 et consigne ce changement dans le tableau de bord de l'équité.
