Dernière mise à jour :
Un processus d'évaluation visant à détecter et à atténuer les biais dans les systèmes d'IA, garantissant l'équité et la conformité aux normes éthiques.
Un examen structuré - souvent réalisé par une équipe indépendante ou un cabinet externe - qui analyse chaque étape du cycle de vie de l'IA (collecte des données, prétraitement, modélisation, évaluation) afin de détecter d'éventuels biais. Les auditeurs appliquent des tests statistiques (par exemple, l'impact disparate), des outils d'explicabilité des modèles et des analyses de groupes d'utilisateurs. Le processus se conclut par des recommandations concrètes de remédiation et des mises à jour de la gouvernance.
Exemple concret :
Une banque commande un audit de partialité concernant son IA d'évaluation du crédit. Les auditeurs échantillonnent les décisions d'octroi de prêt par groupe démographique, constatent que les candidats de certains codes postaux essuient des refus de manière disproportionnée et recommandent d'enrichir les données et d'intégrer de nouvelles contraintes d'équité dans l'algorithme d'évaluation. Par la suite, la banque surveille mensuellement les taux de refus afin de suivre l'évolution de la situation.
