Erreurs systématiques dans les sorties d'IA résultant de données d'entraînement biaisées ou d'algorithmes défectueux, conduisant à des résultats inéquitables.
Des écarts systématiques dans les résultats de l’IA qui favorisent ou défavorisent injustement certains groupes — découlant de jeux de données biaisés, d’un étiquetage défaillant ou d’objectifs mal définis — et nécessitant une détection, une mesure et une atténuation.
Un système de reconnaissance faciale entraîné principalement sur des visages à la peau claire présente des taux d’erreur plus élevés pour les personnes à la peau plus foncée. Le fournisseur rééquilibre son jeu de données d’entraînement et déploie des tableaux de bord continus de surveillance des biais afin de garantir des performances équitables pour toutes les teintes de peau.
