Dernière mise à jour :
Le processus d'évaluation systématique des systèmes d'intelligence artificielle afin de garantir leur conformité aux normes éthiques et de prévenir tout préjudice.
Un audit spécialisé qui examine l'équité des modèles, l'atténuation des biais, la confidentialité des données, la transparence et les processus de gouvernance par rapport à des critères éthiques de référence. Les audits éthiques comprennent des entretiens avec les parties prenantes, des examens du code et des données, des tests de modèles sur des sous-groupes sensibles et un suivi des mesures correctives. Les rapports incluent généralement des évaluations de risques et des plans d'action.
Exemple concret :
Le bureau d'éthique de l'IA d'une université réalise un audit éthique de l'IA sur son chatbot d'orientation des étudiants. Les auditeurs testent l'absence de recommandations biaisées envers certaines filières, examinent les contrôles de confidentialité des données des étudiants et vérifient que le chatbot divulgue sa nature d'intelligence artificielle. Le rapport d'audit qui en résulte conduit à l'affinement des données d'entraînement et à la mise à jour des messages de consentement.
