Kontinuierliche Überwachung des Verhaltens von KI und externer Signale (z.B. regulatorische Aktualisierungen), um aufkommende Risiken oder Nicht-Einhaltungen frühzeitig zu erkennen und darauf zu reagieren.
Ein ganzheitliches Programm, das die Überwachung des Laufzeitverhaltens (Fehlerraten, Bias-Metriken, Sicherheitswarnungen) mit Horizon-Scanning-Aktivitäten (neue Vorschriften, politische Veränderungen, wissenschaftliche Erkenntnisse) kombiniert. Warnmeldungen fließen in Governance-Workflows ein, und Tracker für regulatorische Änderungen benachrichtigen Compliance-Teams über Aktualisierungen, die Anpassungen von Richtlinien oder Systemen erfordern. Die Governance definiert Kanäle für Threat Intelligence, regulatorisches Monitoring und regelmäßige Überprüfungszyklen, um sicherzustellen, dass das KI-Programm aktuell und regelkonform bleibt.
Das Vigilance-Monitoring-Team eines Finanzhandelsunternehmens überprüft täglich die Protokolle zur Modellleistung und durchsucht regulatorische Bulletins nach neuen Richtlinien (z. B. MiFID-II-Standards für den Einsatz von KI). Bei Feststellung einer vorgeschlagenen Regeländerung leitet es einen Prozess zur Aktualisierung von Richtlinien ein – wobei neue Anforderungen auf Systemkontrollen abgebildet und die Einsatzbereitschaft vor dem Inkrafttreten der Regulierung sichergestellt werden.
