Biais de jugement
Erreurs systématiques dans les processus décisionnels humains ou basés sur l'IA, causées par des raccourcis cognitifs ou des données erronées, nécessitant des audits et des mesures d'atténuation des biais.
Définition
Erreurs résultant d'heuristiques cognitives (disponibilité, ancrage) dans les jugements humains ou de modèles algorithmiques reflétant ces biais. Un biais de jugement peut survenir lors de l'annotation des étiquettes, de l'établissement des politiques ou de la révision post-modèle. La gouvernance y remédie grâce à des protocoles de décision structurés, à des panels d'évaluation à l'aveugle, à des formations de sensibilisation aux préjugés et à des audits algorithmiques visant à détecter et à corriger les résultats biaisés avant qu'ils ne se propagent.
Exemple concret
En matière de souscription de prêts, les souscripteurs ont tendance à favoriser les candidats dont le nom est familier (biais de reconnaissance). La banque introduit des applications aveugles (masquage des noms) et réalise des audits de partialité en comparant les taux d'approbation avant et après la mise en œuvre, réduisant ainsi les disparités basées sur les noms de 60 %.
.svg)
