Die fortlaufende Überprüfung von AI-Ergebnissen und -Prozessen anhand von Benchmarks und Testfällen, um Mängel, Vorfälle von Voreingenommenheit oder Verstöße gegen Richtlinien aufzudecken.
Eine kontinuierliche Praxis, bei der Beispielausgaben anhand bekannter Ground-Truth-Fälle, Richtlinienverstoß-Detektoren und Fairness-Prüfungen getestet werden. QC-Pipelines laufen parallel zur Produktion, kennzeichnen Anomalien (z. B. unerwartete Fehlermuster) und speisen Probleme in Defect-Tracking-Systeme ein. Die Governance definiert QC-Stichprobenraten, Validierungskriterien und Behebungs-Workflows, um die Systemintegrität auf hohem Niveau zu halten.
Das Qualitätskontrollsystem einer KI zur Inhaltsmoderation prüft täglich stichprobenartig 1 % der markierten Beiträge und vergleicht sie mit den Bewertungen menschlicher Moderatorinnen und Moderatoren. Bei Abweichungen wird umgehend ein erneutes Training ausgelöst, wenn die Fehlerraten 5 % überschreiten, wodurch eine kontinuierliche Übereinstimmung zwischen automatisierten und menschlichen Standards sichergestellt wird.
