Audit éthique de l'IA
Processus d'évaluation systématique des systèmes d'IA pour s'assurer qu'ils sont conformes aux normes éthiques et qu'ils ne causent pas de dommages.
Définition
Un audit spécialisé qui examine l'équité des modèles, l'atténuation des biais, la confidentialité des données, la transparence et les processus de gouvernance par rapport à des critères éthiques. Les audits éthiques impliquent des entretiens avec les parties prenantes, des examens de code et de données, des tests de modèles sur des sous-groupes sensibles et un suivi des mesures correctives. Les rapports incluent généralement des évaluations des risques et des plans d'action.
Exemple concret
Le bureau d'éthique de l'IA d'une université réalise un audit éthique de l'IA de son chatbot qui conseille les étudiants. Les auditeurs testent les conseils biaisés à l'égard de certaines spécialités, examinent les contrôles de confidentialité des données des étudiants et vérifient que le bot révèle sa nature d'IA. Le rapport d'audit qui en résulte permet d'affiner les données de formation et de mettre à jour les messages de consentement.
.svg)
