Dernière mise à jour :
Les processus de gouvernance spécifiques aux systèmes de vision par ordinateur, garantissant la qualité des données, le contrôle des biais et la transparence des prises de décision basées sur des images ou des vidéos.
Pratiques de surveillance spécialisées - audits de diversité des ensembles de données (éclairage, démographie, environnements), tests de robustesse adverse (occlusion, perturbations), explicabilité des caractéristiques visuelles (cartes de saillance) et critères de performance spécifiques au domaine (par exemple, précision de l'imagerie médicale). Les organes de surveillance de l'IA visuelle définissent des normes pour l'étiquetage des images, imposent des audits réguliers des résultats des modèles à travers différents sous-groupes et exigent une révision humaine pour les détections incertaines.
Exemple concret :
L’IA d’un prestataire de santé pour les scanners radiologiques est soumise à la surveillance de l’IA de vision (Vision AI Oversight) : l’équipe de gouvernance vérifie que les images d’entraînement englobent plusieurs types de scanners et diverses données démographiques de patients, examine les explications par cartes de saillance sur des cas de test, et exige que les radiologues valident les détections à faible niveau de confiance – garantissant ainsi une qualité élevée des données et des modèles pour les tâches d’imagerie diagnostique.
