Zuletzt aktualisiert am:
Die subjektive Überprüfung von Verhaltensweisen, Entscheidungen und Dokumentationen von KI-Systemen durch Experten, um ethische, rechtliche oder reputationsbezogene Bedenken zu identifizieren, die quantitativ nicht erfasst werden können.
Ergänzt quantitative Kennzahlen durch Expertenurteile – wie Ethikkommissionen, rechtliche Prüfungen und UX-Studien –, um Probleme wie kulturelle Intoleranz, irreführende UX-Muster oder rechtliche Unklarheiten aufzudecken. Die Governance verankert qualitative Bewertungen an entscheidenden Meilensteinen (Design, Pilotphase, Post-Release), dokumentiert die Ergebnisse in Prüfberichten und verfolgt Korrekturmaßnahmen, um narrative oder kontextuelle Risiken zu adressieren, die über rein quantitative Messungen hinausgehen.
Praxisbeispiel:
Während der Entwicklung eines Gesichtserkennungstools führt ein Gremium aus Rechts- und Bürgerrechtsexperten eine qualitative Bewertung durch, um potenziellen Missbrauch für unbefugte Überwachung zu identifizieren. Basierend auf deren Feedback integriert der Anbieter explizite Abläufe zur Einholung der Benutzereinwilligung und eine strenge Revisionsprotokollierung, anstatt sich ausschließlich auf Metriken zu Genauigkeit und Verzerrung zu verlassen.
