Équité
Veiller à ce que les systèmes d'IA produisent des résultats impartiaux et équitables pour les différents individus et groupes, et atténuer les impacts discriminatoires.
Définition
Un principe de gouvernance et un objectif technique exigeant que les modèles d'IA fournissent des résultats comparables pour les groupes protégés et non protégés. L'équité est mise en œuvre au moyen de critères statistiques (par exemple, parité démographique, égalité des chances), d'algorithmes d'atténuation des biais et d'une surveillance continue. Cela exige l'engagement des parties prenantes pour définir ce que signifie « équitable » dans son contexte et pour valider que les interventions en matière d'équité ne sacrifient pas indûment la précision.
Exemple concret
Une IA de recrutement est auditée pour vérifier l'équilibre entre les sexes : avant l'atténuation, les candidats masculins avaient un taux d'offres d'entretien supérieur de 25 %. L'équipe applique une contrainte d'équité lors de la reconversion afin d'égaliser les probabilités d'offre, et les rapports post-déploiement indiquent des taux d'entretien inférieurs à 2 % pour tous les sexes, ce qui améliore l'équité sans nuire à la précision prédictive.
.svg)
