Biais cognitif
Schémas systématiques d'écart par rapport à la norme ou de rationalité dans le jugement, qui peuvent influencer la prise de décision en matière d'IA s'ils sont présents dans les données d'entraînement.
Définition
Les biais humains (ancrage, confirmation, disponibilité) peuvent altérer l'étiquetage des données, la sélection des fonctionnalités et la définition des objectifs. La reconnaissance des biais cognitifs nécessite des examens structurés de la gouvernance des données, des protocoles d'étiquetage à l'aveugle et des équipes d'étiquetage diversifiées. Les organisations doivent vérifier les sources de biais, non seulement dans la distribution des données, mais également dans les processus faisant intervenir l'humain.
Exemple concret
Un classificateur de réponses à une enquête qualifie à tort le sentiment neutre de négatif parce que les étiqueteurs, pressés par les récents événements d'actualité, interprètent à tort la neutralité comme du pessimisme (biais de disponibilité). L'équipe met en œuvre l'étiquetage à l'aveugle et fait alterner les étiqueteuses afin d'atténuer ce biais cognitif lors des prochaines annotations.
.svg)
