Biais de l'IA
Des erreurs systématiques dans les résultats de l'IA résultant de données d'entraînement partiales ou d'algorithmes erronés, entraînant des résultats injustes.
Définition
Des écarts systématiques dans les résultats de l'IA qui favorisent ou désavantagent injustement des groupes particuliers, en raison d'ensembles de données biaisés, d'un étiquetage erroné ou d'objectifs mal spécifiés, et nécessitant une détection, une mesure et une atténuation.
Exemple concret
Un système de reconnaissance faciale conçu principalement sur les visages à peau claire présente des taux d'erreur plus élevés pour les personnes à la peau foncée. Le fournisseur rééquilibre son ensemble de données de formation et déploie des tableaux de bord de surveillance continue des biais afin de garantir des performances équitables pour toutes les carnations.
.svg)
