Zuletzt aktualisiert am:
Kontinuierliche Überwachung des Verhaltens von KI-Systemen sowie externer Signale (z. B. regulatorischer Aktualisierungen), um neu auftretende Risiken oder Compliance-Verstöße umgehend zu erkennen und darauf zu reagieren.
Ein ganzheitliches Programm, das die Überwachung des Laufzeitverhaltens (Fehlerraten, Bias-Metriken, Sicherheitswarnungen) mit Horizon-Scanning-Aktivitäten (neue Vorschriften, Richtlinienänderungen, wissenschaftliche Erkenntnisse) kombiniert. Warnmeldungen fließen direkt in Governance-Workflows ein, und Tracker für regulatorische Änderungen benachrichtigen Compliance-Teams über Aktualisierungen, die Anpassungen der Richtlinien oder Systeme erfordern. Die Governance definiert Kanäle für Bedrohungsanalysen, regulatorische Überwachung und regelmäßige Überprüfungszyklen, um sicherzustellen, dass das KI-Programm stets aktuell und konform bleibt.
Praxisbeispiel:
Das Team für Vigilance Monitoring eines Finanzhandelsunternehmens überprüft täglich die Leistungsprotokolle der Modelle und scannt regulatorische Bulletins nach neuen Richtlinien (z. B. MiFID-II-Nutzungsstandards für KI). Sobald eine vorgeschlagene Regeländerung erkannt wird, leiten sie einen Prozess zur Richtlinienaktualisierung ein – dabei werden neue Anforderungen auf die Systemkontrollen abgebildet und die Betriebsbereitschaft vor dem Inkrafttreten der Verordnung sichergestellt.
