Glossaire
Mis à jour
Écarts systématiques dans les résultats de l'IA qui favorisent ou désavantagent injustement certains groupes, découlant de jeux de données biaisés, d'un étiquetage défectueux ou d'objectifs mal définis, et nécessitant une détection, une mesure et une atténuation.
Exemple
Un système de reconnaissance faciale entraîné principalement sur des visages à la peau claire présente des taux d'erreur plus élevés pour les personnes aux tons de peau plus foncés. Le fournisseur rééquilibre son ensemble de données d'entraînement et déploie des tableaux de bord de surveillance continue des biais afin de garantir des performances équitables pour toutes les carnations.