Erkennung von Neuheiten
Techniken zur Identifizierung von Eingaben oder Szenarien, die erheblich von den Trainingsdaten abweichen, wodurch eine Überprüfung oder ein Betrieb im abgesicherten Modus ausgelöst wird, um unerwartete Ausfälle zu verhindern.
Definition
Es wird auch als Erkennung außerhalb der Verteilung bezeichnet und verwendet statistische Entfernungen, Autoencoder-Rekonstruktionsfehler oder Unsicherheitsschätzungen (z. B. Bayes-Netzwerke), um anomale Eingaben zu kennzeichnen. Die Governance konfiguriert Schwellenwerte für Fallbacks im abgesicherten Modus, protokolliert neue Ereignisse für die Vorfallanalyse und aktualisiert die Erkennungsmodelle regelmäßig, um den sich ändernden Datenverteilungen Rechnung zu tragen.
Real-World Example
Eine KI für medizinische Bildgebung kennzeichnet jeden Scan, dessen Pixelverteilung um mehr als zwei Standardabweichungen vom Trainingssatz abweicht. Wenn eine Neuheit festgestellt wird, leitet das System den Scan zur manuellen Überprüfung an einen Spezialisten weiter und protokolliert das Ereignis zur späteren Analyse. So wird verhindert, dass das Modell bei ungewöhnlichen Fällen sichere, aber falsche Diagnosen stellt.
.svg)
