Glossar
Aktualisiert
Eine Post-Incident-Methodik (etwa die 5-Why-Methode oder Fischgrätendiagramme), die Fehlerereignisse (z. B. Fehlklassifikationen von Modellen, Systemausfälle) durch Datenpipelines, Modelllogik und Infrastrukturebenen zurückverfolgt, um die primäre Fehlerquelle zu identifizieren. Die Ursachenanalyse (Root-Cause-Analysis, RCA) dokumentiert Ergebnisse sowie Behebungspläne, stellt sicher, dass Korrekturmaßnahmen systemische Probleme adressieren, und verhindert ein erneutes Auftreten. Die Governance-Richtlinien erfordern eine RCA für jeden Vorfall mit hohem Schweregrad sowie eine Überprüfung der Ergebnisse durch die Geschäftsführung.
Beispiel
Nachdem eine Empfehlungs-Engine begonnen hatte, unangemessene Inhalte vorzuschlagen, führte das Team eine Ursachenanalyse durch: Es stellte fest, dass ein Daten-Ingestion-Skript Test- und Produktionsdaten zusammengeführt und so das Training verfälscht hatte. Es korrigierte das Skript, revalidierte das Modell und fügte Unit-Tests zur Ingestion-Pipeline hinzu. Damit war das Risiko einer künftigen umgebungsübergreifenden Kontamination beseitigt.