Dernière mise à jour :
L'évaluation subjective, par des experts, des comportements, des décisions et de la documentation des systèmes d'IA, visant à identifier les risques éthiques, juridiques ou réputationnels qui ne peuvent être appréhendés de manière quantitative.
Complète les mesures quantitatives par le jugement d'experts — comités d'éthique, examens juridiques, études d'expérience utilisateur — afin de déceler des problèmes tels que le manque de sensibilité culturelle, les modèles de conception trompeurs (UX trompeuse) ou les ambiguïtés juridiques. La gouvernance intègre des évaluations qualitatives aux étapes clés (conception, projet pilote, post-publication), consigne les conclusions dans des rapports d'examen et assure le suivi des mesures correctives afin de traiter les risques narratifs ou contextuels qui échappent aux simples mesures quantitatives.
Exemple concret :
Lors de la conception d'un outil de reconnaissance faciale, un comité d'experts juridiques et des droits civiques mène une évaluation qualitative, identifiant les risques potentiels d'utilisation abusive à des fins de surveillance non autorisée. Sur la base de leurs recommandations, le fournisseur intègre des flux explicites de consentement de l'utilisateur ainsi qu'un journal d'audit rigoureux, plutôt que de s'appuyer uniquement sur des mesures de précision et de partialité.
