Glossaire
Mis à jour
Pratiques de surveillance spécialisées : audits de diversité des ensembles de données (éclairage, démographie, environnements), tests de robustesse adverse (occlusion, perturbations), explicabilité des caractéristiques visuelles (cartes de saillance) et critères de performance spécifiques au domaine (par exemple, précision de l'imagerie médicale). Les organes de surveillance de l'IA visuelle définissent des normes pour l'étiquetage des images, imposent des audits réguliers des résultats des modèles à travers différents sous-groupes et exigent une révision humaine pour les détections incertaines.
Exemple
L’IA d’un prestataire de santé pour les scanners radiologiques est soumise à la surveillance de l’IA de vision (Vision AI Oversight) : l’équipe de gouvernance vérifie que les images d’entraînement englobent plusieurs types de scanners et diverses données démographiques de patients, examine les explications par cartes de saillance sur des cas de test, et exige que les radiologues valident les détections à faible niveau de confiance, garantissant ainsi une qualité élevée des données et des modèles pour les tâches d’imagerie diagnostique.