Zuletzt aktualisiert am:
Fortlaufende Überwachung des Verhaltens von KI-Systemen und deren Betriebsumgebung nach der Einführung, um Leistungsabfall, Drift oder Compliance-Verstöße frühzeitig zu erkennen.
Erweitert die Modellüberwachung um Governance-Signale – Datenschutzvorfälle, Protokolle zu Richtlinienverstößen, Trends bei Ethik-Metriken – neben Leistungs- und Sicherheitskennzahlen. Frameworks für die Überwachung nach der Bereitstellung erfassen unterschiedliche Telemetriedaten, führen regelmäßige Audits durch (z. B. Fairness-Prüfungen, Anomalie-Scans) und lösen Governance-Workflows aus, wenn Schwellenwerte überschritten werden. Dies stellt sicher, dass Korrekturmaßnahmen (erneutes Training, Rollback, rechtliche Benachrichtigung) unverzüglich eingeleitet werden.
Praxisbeispiel:
Der Filter für Hassrede einer Social-Media-Plattform leitet alle Inhalte, die von der KI als risikoreich eingestuft oder nicht klassifiziert wurden, in eine Moderatorenwarteschlange weiter. Nach der Bereitstellung überwacht das System monatlich die Falsch-Positiv-Raten. Wenn die Falsch-Positiv-Rate 2 % überschreitet, öffnet das Governance-Dashboard automatisch ein Untersuchungsticket für das erneute Modelltraining und Regelanpassungen.
