Validierung
Der Prozess, bei dem bestätigt wird, dass ein KI-Modell die vorgesehenen Aufgaben genau und zuverlässig erfüllt und definierte Leistungskriterien erfüllt.
Definition
Eine umfassende Reihe von Prüfungen — einschließlich der Bewertung von Hold-Out-Testsätzen, Stresstests unter Randfallszenarien, Fairness-Audits zwischen Untergruppen und Sicherheitsbewertungen — zur Überprüfung der Produktionsreife eines Modells. Die Validierung umfasst eine unabhängige Überprüfung durch ein Validierungsteam, die Dokumentation der Methoden und Ergebnisse in einem formellen Validierungsbericht sowie die ausdrückliche Freigabe vor dem Einsatz.
Real-World Example
Eine KI für die medizinische Bildgebung wird validiert, indem sie auf einer kuratierten Testsuite seltener Tumorfälle läuft, Sensitivität und Spezifität bewertet, Altersgruppenübergreifende Fairness-Checks durchführt und störende Eingaben simuliert. Erst wenn alle Kriterien erfüllt und die Genehmigung eingeholt wurde, erhält sie die Genehmigung für den klinischen Einsatz.
.svg)
