Die Fähigkeit, den internen Zustand und das Verhalten eines KI-Systems durch die Sammlung und Analyse von Protokollen, Metriken und Ausgaben für effektive Überwachung und Fehlerbehebung abzuleiten.
Geht über die grundlegende Überwachung hinaus und liefert tiefgehende Einblicke in den Systemzustand. Observability-Pipelines erfassen strukturierte Protokolle (Anfragen, Fehler), Metriken (Latenz, Ressourcennutzung) und Traces (Ausführungspfade) aus Diensten für Datenaufnahme, Training und Inferenz. Mithilfe von Korrelationen und Dashboards können Teams die Ursachen von Problemen präzise identifizieren, Ereignisse erneut abspielen und Post-Mortems durchführen. Die Governance legt fest, welche Signale erfasst werden, welche Aufbewahrungsrichtlinien gelten und welche Alarm-Schwellenwerte einzuhalten sind, um Systemzuverlässigkeit und Compliance sicherzustellen.
Eine Plattform zur Betrugserkennung integriert OpenTelemetry, um für jede Transaktion Traces auszugeben, protokolliert Modellentscheidungen mit Konfidenzwerten und verfolgt die CPU-/GPU-Auslastung. Wenn die Latenzspitzen auftreten, analysiert das SRE-Team die Traces, um eine langsame Abfrage im Feature-Store zu identifizieren, korrigiert die Indizierung und stellt innerhalb von 15 Minuten die normale Leistung wieder her.
