Le processus d'évaluation systématique des systèmes d'IA pour garantir leur conformité aux normes éthiques et éviter tout dommage.
Un audit spécialisé qui examine l’équité des modèles, l’atténuation des biais, la confidentialité des données, la transparence et les processus de gouvernance au regard de référentiels éthiques. Les audits éthiques comprennent des entretiens avec les parties prenantes, des revues du code et des données, des tests des modèles sur des sous-groupes sensibles, ainsi que le suivi des mesures correctives. Les rapports incluent généralement des niveaux de risque et des plans d’action.
Le Bureau d’éthique de l’IA d’une université réalise un audit éthique de l’IA de son agent conversationnel de conseil aux étudiants. Les auditeurs testent l’existence de conseils biaisés en faveur de certaines filières, examinent les contrôles de confidentialité des données étudiantes et vérifient que l’agent indique clairement sa nature d’IA. Le rapport d’audit qui en résulte conduit à l’amélioration des données d’entraînement et à la mise à jour des messages de consentement.
