Un processus d'évaluation pour détecter et atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité avec les normes éthiques.
Un audit structuré — souvent réalisé par une équipe indépendante ou un cabinet externe — qui examine chaque étape du cycle de vie de l’IA (collecte des données, prétraitement, modélisation, évaluation) afin d’identifier les biais. Les auditeurs appliquent des tests statistiques (par exemple, l’impact disparate), des outils d’explicabilité des modèles et des analyses par groupes d’utilisateurs. Le processus se conclut par des recommandations de remédiation concrètes et des mises à jour de la gouvernance.
Une banque commande un audit des biais de son IA de notation de crédit. Les auditeurs échantillonnent les décisions de prêt par groupe démographique, constatent que les candidats issus de certains codes postaux sont refusés de manière disproportionnée, et recommandent un enrichissement des données ainsi que de nouvelles contraintes d’équité dans l’algorithme de notation, après quoi la banque suit mensuellement les taux de refus afin de mesurer les progrès.
