Überwachung der Varianz
Verfolgen Sie Schwankungen der Ergebnisse oder Leistungskennzahlen von KI-Modellen im Laufe der Zeit, um Abweichungen zu erkennen und mögliche Beeinträchtigungen oder Risiken abzuleiten.
Definition
Umfasst die Berechnung statistischer Varianzen wichtiger Kennzahlen (Prognoseverteilungen, Merkmalsbedeutungen, Leistungswerte) und deren Vergleich mit rollierenden Basiswerten. Signifikante Abweichungen lösen Warnmeldungen für eingehendere Untersuchungen aus. Die Governance definiert akzeptable Varianzbänder, Überwachungshäufigkeiten und automatische Reaktionsverfahren (Datenpipeline-Checks, Modellneutraining), um die Stabilität und Zuverlässigkeit des Modells aufrechtzuerhalten.
Real-World Example
Eine KI für Online-Werbung verfolgt die wöchentliche Varianz der Klickverteilungen zwischen Nutzersegmenten. Wenn die Varianz das Doppelte der historischen Standardabweichung überschreitet, wird das Team der Datenflotte durch eine Warnung aufgefordert, nach aktuellen Code- oder Datenänderungen zu suchen. So wird verhindert, dass unbemerkte Abweichungen die Kampagnenleistung beeinträchtigen.
.svg)
