Last updated:
L'évaluation subjective des comportements, des décisions et de la documentation des systèmes d'IA par des experts, visant à identifier les préoccupations éthiques, juridiques ou réputationnelles qui ne sont pas quantifiées.
Complète les indicateurs quantitatifs par un jugement d’expert — comités d’éthique, examens juridiques, études de l’expérience utilisateur — afin de mettre en évidence des enjeux tels que l’insensibilité culturelle, des schémas d’UX trompeurs ou des ambiguïtés juridiques. La gouvernance intègre des évaluations qualitatives aux étapes clés (conception, pilote, post-lancement), consigne les conclusions dans des rapports d’examen et suit les actions de remédiation afin de traiter les risques narratifs ou contextuels qui dépassent ce que les indicateurs permettent de capter.
Real world example:
Lors de la conception d’un outil de reconnaissance faciale, un comité d’experts juridiques et de défense des droits civiques réalise une évaluation qualitative, afin d’identifier les risques potentiels de détournement à des fins de surveillance non autorisée. Sur la base de leurs retours, l’éditeur met en place des parcours explicites de consentement utilisateur ainsi qu’une journalisation d’audit stricte, plutôt que de s’appuyer uniquement sur des indicateurs de précision et de biais.
