Glossar
Aktualisiert
Erweitert die Modellüberwachung um Governance-Signale (Datenschutzvorfälle, Protokolle zu Richtlinienverstößen, Trends bei Ethik-Metriken) neben Leistungs- und Sicherheitskennzahlen. Frameworks für die Überwachung nach der Bereitstellung erfassen unterschiedliche Telemetriedaten, führen regelmäßige Audits durch (z. B. Fairness-Prüfungen, Anomalie-Scans) und lösen Governance-Workflows aus, wenn Schwellenwerte überschritten werden. Dies stellt sicher, dass Korrekturmaßnahmen (erneutes Training, Rollback, rechtliche Benachrichtigung) unverzüglich eingeleitet werden.
Beispiel
Der Filter für Hassrede einer Social-Media-Plattform leitet alle Inhalte, die von der KI als risikoreich eingestuft oder nicht klassifiziert wurden, in eine Moderatorenwarteschlange weiter. Nach der Bereitstellung überwacht das System monatlich die Falsch-Positiv-Raten. Wenn die Falsch-Positiv-Rate 2 % überschreitet, öffnet das Governance-Dashboard automatisch ein Untersuchungsticket für das erneute Modelltraining und Regelanpassungen.