Fortlaufende Beobachtung des Verhaltens und der Umgebung von KI-Systemen nach deren Freigabe, um Abbau, Abweichungen oder Verstöße gegen die Compliance zu erkennen.
Erweitert das Modell-Monitoring um Governance-Signale – Datenschutzvorfälle, Protokolle zu Richtlinienverstößen, Trends bei Ethik-Metriken – zusätzlich zu Leistungs- und Sicherheitskennzahlen. Monitoring-Frameworks nach der Bereitstellung erfassen vielfältige Telemetriedaten, führen regelmäßige Audits (z. B. Fairness-Prüfungen, Anomalie-Scans) durch und lösen Governance-Workflows aus, wenn Schwellenwerte überschritten werden, um sicherzustellen, dass Korrekturmaßnahmen (Neutraining, Rollback, rechtliche Benachrichtigung) zeitnah erfolgen.
Der Hassrede-Detektor einer Social-Media-Plattform leitet sämtliche von der KI als hochriskant oder nicht klassifiziert gekennzeichneten Inhalte in eine Moderationswarteschlange weiter. Nach der Bereitstellung überwacht das System monatlich die Falsch-Positiv-Rate; wenn die Falsch-Positiv-Rate 2 % überschreitet, eröffnet das Governance-Dashboard ein Untersuchungsticket zur erneuten Modellschulung und zur Anpassung der Regeln.
