Zuletzt aktualisiert am:
Eine strukturierte Untersuchung zur Ermittlung der zugrunde liegenden Ursachen für Ausfälle oder unerwartetes Verhalten von KI-Systemen, die als Grundlage für Korrekturmaßnahmen dient.
Eine Post-Incident-Methodik – wie die 5-Why-Methode oder Fischgrätendiagramme –, die Fehlerereignisse (z. B. Fehlklassifikationen von Modellen, Systemausfälle) durch Datenpipelines, Modelllogik und Infrastrukturebenen zurückverfolgt, um die primäre Fehlerquelle zu identifizieren. Die Ursachenanalyse (Root-Cause-Analysis, RCA) dokumentiert Ergebnisse sowie Behebungspläne, stellt sicher, dass Korrekturmaßnahmen systemische Probleme adressieren, und verhindert ein erneutes Auftreten. Die Governance-Richtlinien erfordern eine RCA für jeden Vorfall mit hohem Schweregrad sowie eine Überprüfung der Ergebnisse durch die Geschäftsführung.
Praxisbeispiel:
Nachdem eine Empfehlungs-Engine begonnen hatte, unangemessene Inhalte vorzuschlagen, führte das Team eine Ursachenanalyse durch: Es stellte fest, dass ein Daten-Ingestion-Skript Test- und Produktionsdaten zusammengeführt und so das Training verfälscht hatte. Sie korrigierten das Skript, revalidierten das Modell und fügten Unit-Tests zur Ingestion-Pipeline hinzu – wodurch das Risiko einer künftigen umgebungsübergreifenden Kontamination eliminiert wurde.
