Glossar
Aktualisiert
Spezialisierte Aufsichtspraktiken: Audits zur Vielfalt von Datensätzen (Beleuchtung, Demografie, Umgebungen), Tests zur Resilienz gegen gezielte Störungen (Verdeckung, Perturbationen), Erklärbarkeit visueller Merkmale (Saliency Maps) sowie domänenspezifische Leistungskriterien (z. B. die Genauigkeit medizinischer Bildgebung). Aufsichtsgremien für Vision AI definieren Standards für die Bildkennzeichnung, schreiben regelmäßige Audits von Modell-Outputs über verschiedene Subgruppen hinweg vor und verlangen eine menschliche Überprüfung (Human-in-the-Loop) bei unsicheren Erkennungen.
Beispiel
Die KI eines Gesundheitsdienstleisters für radiologische Scans wird einer Vision-AI-Aufsicht unterzogen: Das Governance-Team verifiziert, dass die Trainingsbilder verschiedene Scannertypen und Patientendemografien abdecken, prüft Saliency-Map-Erklärungen bei Testfällen und schreibt vor, dass Radiologen Erkennungen mit geringer Konfidenz freigeben. Dies sichert eine hohe Daten- und Modellqualität für diagnostische Bildgebungsaufgaben.