Un biais qui survient lorsqu'un algorithme produit des résultats systématiquement biaisés en raison d'hypothèses erronées dans le processus d'apprentissage automatique.
Un traitement inéquitable ou disproportionné résultant d’une logique algorithmique — amplifiée par des données d’entrée biaisées, des objectifs orientés ou une sélection de caractéristiques défaillante — nécessitant un audit et une correction continus.
L’IA de présélection des admissions d’une université accorde un poids excessif au statut de « candidat héritier », ce qui entraîne un taux d’admission disproportionnellement élevé pour les enfants d’anciens élèves. Le bureau des admissions supprime cette caractéristique, réentraîne le modèle et suit les taux d’admission afin de confirmer l’équité entre les différents groupes démographiques.
