Qualitative Bewertung
Die subjektive Überprüfung des Verhaltens, der Entscheidungen und der Dokumentation von KI-Systemen durch Experten, um ethische, rechtliche oder Reputationsbedenken zu identifizieren, die nicht quantitativ erfasst wurden.
Definition
Ergänzt quantitative Kennzahlen durch Expertenurteile — Ethikgremien, juristische Überprüfungen, Studien zur Nutzererfahrung —, um Probleme wie kulturelle Unempfindlichkeit, irreführende UX-Muster oder rechtliche Unklarheiten aufzudecken. Die Unternehmensführung integriert qualitative Bewertungen an wichtigen Meilensteinen (Design, Pilotprojekt, nach der Veröffentlichung), dokumentiert die Ergebnisse in Überprüfungsberichten und verfolgt Abhilfemaßnahmen, um erzählerische oder kontextuelle Risiken zu bewältigen, die über die Messwerte hinausgehen.
Real-World Example
Während der Entwicklung eines Gesichtserkennungsinstruments führt ein Gremium aus Rechts- und Bürgerrechtsexperten eine qualitative Bewertung durch und identifiziert dabei den potenziellen Missbrauch durch unbefugte Überwachung. Auf der Grundlage ihres Feedbacks fügt der Anbieter explizite Zustimmungsprozesse der Nutzer und eine strikte Auditprotokollierung hinzu, anstatt sich ausschließlich auf Genauigkeits- und Verzerrungsmetriken zu verlassen.
.svg)
