L'évaluation systématique des systèmes d'IA pour vérifier la conformité aux normes éthiques, aux règlements et aux indicateurs de performance.
Une évaluation rigoureuse, souvent indépendante, des données, du code, des résultats et des processus de gouvernance d’un système d’IA — couvrant les vérifications des biais, les contrôles de confidentialité, la validation des performances et la conformité réglementaire — aboutissant à un rapport d’audit formel.
Un prestataire de soins de santé fait appel à un cabinet d’audit externe pour évaluer son outil d’IA diagnostique. Les auditeurs examinent la diversité des données patients, exécutent le modèle sur des cas de test retenus représentant différentes catégories démographiques, vérifient que tous les dossiers patients sont conformes aux règles de confidentialité, et publient un rapport exhaustif présentant les constats et les mesures correctives, garantissant ainsi la transparence et la conformité réglementaire.
