Die Governance-Prozesse, die speziell für Computer-Vision-Systeme entwickelt wurden, gewährleisten die Datenqualität, führen Bias-Prüfungen durch und sorgen für Transparenz bei auf Bild/Video basierenden Entscheidungsprozessen.
Spezialisierte Aufsichtsverfahren – Audits zur Datensatzdiversität (Beleuchtung, Demografie, Umgebungen), Tests zur adversariellen Robustheit (Verdeckungen, Perturbationen), Erklärbarkeit visueller Merkmale (Saliency-Maps) sowie domänenspezifische Leistungskriterien (z. B. Genauigkeit bei medizinischen Bildern). Aufsichtsgremien für Vision AI definieren Standards für die Bildkennzeichnung, schreiben regelmäßige Audits der Modellausgaben über verschiedene Subgruppen hinweg vor und verlangen bei unsicheren Erkennungen eine Überprüfung mit Human-in-the-Loop.
Die KI eines Gesundheitsdienstleisters für radiologische Scans durchläuft eine Vision-AI-Aufsicht: Das Governance-Team stellt sicher, dass die Trainingsbilder mehrere Scannertypen und Patientendemografien umfassen, überprüft Saliency-Map-Erklärungen anhand von Testfällen und schreibt vor, dass Radiologen Detektionen mit geringer Konfidenz freigeben müssen – und gewährleistet so eine hohe Daten- und Modellqualität für diagnostische Bildgebungsaufgaben.
