Eine strukturierte Untersuchung, um die zugrunde liegenden Gründe für das Versagen von KI-Systemen oder unerwartetem Verhalten zu bestimmen und korrigierende Maßnahmen zu leiten.
Eine Methodik zur Analyse nach Vorfällen – 5-Why-Ansatz, Ishikawa-Diagramme – die Fehlerereignisse (z. B. Modellfehlklassifizierungen, Systemausfälle) über Datenpipelines, Modelllogik und Infrastrukturebenen zurückverfolgt, um den primären Defekt zu identifizieren. Die Root-Cause-Analyse dokumentiert Erkenntnisse und Abhilfepläne, stellt sicher, dass Korrekturmaßnahmen systemische Probleme adressieren, und verhindert ein erneutes Auftreten. Die Governance verlangt für jeden Vorfall mit hoher Schwere eine RCA, einschließlich einer Managementprüfung der Ergebnisse.
Nachdem eine Empfehlungs-Engine begonnen hatte, unangemessene Inhalte vorzuschlagen, führte das Team eine Ursachenanalyse durch: Dabei stellte es fest, dass ein Skript zur Datenaufnahme Test- und Produktionsdaten zusammengeführt hatte, wodurch das Training verzerrt wurde. Das Team korrigierte das Skript, validierte das Modell erneut und ergänzte Unit-Tests in der Ingestion-Pipeline – wodurch das Risiko einer zukünftigen umgebungsübergreifenden Kontamination beseitigt wurde.
