Dernière mise à jour :
Erreurs systématiques dans les résultats de l'IA découlant de données d'entraînement biaisées ou d'algorithmes défectueux, entraînant des décisions inéquitables.
Écarts systématiques dans les résultats de l'IA qui favorisent ou désavantagent injustement certains groupes - découlant de jeux de données biaisés, d'un étiquetage défectueux ou d'objectifs mal définis - et nécessitant une détection, une mesure et une atténuation.
Exemple concret :
Un système de reconnaissance faciale entraîné principalement sur des visages à la peau claire présente des taux d'erreur plus élevés pour les personnes aux tons de peau plus foncés. Le fournisseur rééquilibre son ensemble de données d'entraînement et déploie des tableaux de bord de surveillance continue des biais afin de garantir des performances équitables pour toutes les carnations.
