Biais
Des erreurs systématiques dans les résultats de l'IA résultant de données d'entraînement partiales ou d'algorithmes erronés, entraînant des résultats injustes.
Définition
Déviations directionnelles persistantes dans les prévisions des modèles qui désavantagent (ou favorisent) systématiquement certains groupes ou certains cas. Le biais provient de données déséquilibrées, de préjugés de l'étiqueteur ou d'objectifs mal spécifiés. Une gouvernance efficace nécessite la détection, la quantification (par exemple, au moyen de mesures d'équité) et le traçage des sources de biais afin de corriger à la fois les données et la conception des modèles.
Exemple concret
Une IA de sélection des recrutements entraînée sur des CV historiques rejette les candidats d'une université en particulier parce que les anciens employés provenaient principalement d'autres écoles. Les RH découvrent ce biais, enrichissent son ensemble de données avec d'autres diplômés de l'université concernée, reforment le modèle et surveillent les taux d'acceptation pour garantir la parité entre les alma maters.
.svg)
