Whitelist/Blacklist-Richtlinie
Verwaltungsregel, die zulässige (Whitelist) und unzulässige (schwarze Liste) Eingaben, Funktionen oder Operationen definiert, um die Einhaltung von Vorschriften durchzusetzen und Missbrauch zu verhindern.
Definition
Ein Policy-as-Code-Mechanismus, bei dem autorisierte Eingabewerte, API-Aufrufe, Modelloperationen oder externe Endpunkte in einer Whitelist angegeben werden und verbotene Elemente (z. B. PII-Felder, unzulässige Funktionen) in einer schwarzen Liste aufgeführt werden. Während der Laufzeit oder der Pipeline-Ausführung blockieren Policy-Checks alle nicht genehmigten Aktionen. Im Rahmen der Unternehmensführung werden diese Listen regelmäßig gepflegt und überprüft, um sie an sich ändernde Risiken und Anforderungen anzupassen.
Real-World Example
Eine Pipeline zur Datenaufnahme wendet eine Whitelist/Blacklist-Richtlinie an: Nur CSV-Dateien aus bestimmten Quellsystemen (Whitelist) werden akzeptiert, und alle Datensätze, die Sozialversicherungsnummern enthalten (Blacklist-Muster), werden abgelehnt und über die Einhaltung der Vorschriften informiert. Dadurch wird verhindert, dass unbefugte oder sensible Daten in die KI-Pipeline gelangen.
.svg)
