Biais algorithmique
Biais qui se produit lorsqu'un algorithme produit des résultats présentant des préjugés systémiques en raison d'hypothèses erronées dans le processus d'apprentissage automatique.
Définition
Traitement injuste ou disproportionné résultant d'une logique algorithmique, amplifiée par des entrées biaisées, des objectifs biaisés ou une sélection de caractéristiques erronée, nécessitant un audit et une correction continus.
Exemple concret
L'IA de sélection des admissions d'une université l'emporte sur le statut de « candidat historique », ce qui entraîne un taux d'acceptation disproportionné pour les enfants des anciens élèves. Le bureau des admissions supprime cette fonctionnalité, redéfinit le modèle et suit les taux d'acceptation pour confirmer l'équité entre les groupes démographiques.
.svg)
