Last updated:
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder rufschädigende Bedenken zu identifizieren, die quantitativ nicht erfasst werden.
Ergänzt quantitative Kennzahlen durch fachkundige Beurteilung – Ethikgremien, rechtliche Prüfungen, Studien zur Nutzererfahrung – um Probleme wie kulturelle Unsensibilität, irreführende UX-Muster oder rechtliche Unklarheiten aufzudecken. Governance verankert qualitative Bewertungen an zentralen Meilensteinen (Design, Pilot, nach der Veröffentlichung), dokumentiert Erkenntnisse in Prüfberichten und verfolgt Abhilfemaßnahmen, um narrative oder kontextuelle Risiken zu adressieren, die über das hinausgehen, was Kennzahlen erfassen.
Real world example:
Bei der Entwicklung eines Gesichtserkennungstools führt ein Gremium aus Rechts- und Bürgerrechtsexpertinnen und -experten eine qualitative Bewertung durch und identifiziert potenziellen Missbrauch für unbefugte Überwachung. Auf Grundlage ihres Feedbacks ergänzt der Anbieter explizite Einwilligungsprozesse für Nutzerinnen und Nutzer sowie strenge Audit-Logging-Mechanismen, anstatt sich ausschließlich auf Genauigkeits- und Bias-Metriken zu verlassen.
