Métriques de justice
Mesures quantitatives (par exemple, impact disparate, égalité des chances) utilisées pour évaluer l'équité et la non-discrimination dans la prise de décisions en matière d'IA.
Définition
Des mesures statistiques qui quantifient l'équité entre les catégories démographiques ou protégées. L'impact disparate mesure les taux de résultats, l'égalité des chances mesure les taux de vrais positifs égaux et l'étalonnage évalue la précision des risques prévus. Les cadres de gouvernance obligent à sélectionner des indicateurs de justice appropriés par cas d'utilisation, à fixer des seuils acceptables et à les communiquer régulièrement aux organismes de surveillance afin de garantir la non-discrimination tout au long du cycle de vie de l'IA.
Exemple concret
Les résultats d'un modèle de police prédictive sont évalués tous les mois : le ministère calcule des ratios d'impact disparates pour les arrêts par course et constate que le ratio dépasse le seuil de 0,8. Ils interrompent les recommandations de patrouille automatisées, recalibrent le modèle en tenant compte des contraintes d'équité et vérifient après le déploiement que les taux d'arrêts répondent aux objectifs des mesures de justice.
.svg)
