Rückverfolgbarkeit
Die Fähigkeit, jeden Schritt im KI-Lebenszyklus — von der Datenerfassung über die Modellentwicklung bis hin zur Bereitstellung — zu verfolgen und zu dokumentieren, um Audits und Forensik zu unterstützen.
Definition
Erreicht durch durchgängiges Lineage-Tracking: Datensätze werden versioniert, Feature-Transformationen werden protokolliert, Trainingscode-Commits werden aufgezeichnet, Hyperparameter werden gespeichert und Bereitstellungsartefakte werden markiert. Rückverfolgbarkeitssysteme ermöglichen die genaue Rekonstruktion, wie und warum eine bestimmte Vorhersage erstellt wurde, und erleichtern die Ursachenanalyse, wenn Probleme auftreten. Die Unternehmensführung verlangt, dass in jeder Phase der Pipeline Metadaten zur Herkunft an ein zentrales Register übermittelt werden.
Real-World Example
Ein Finanzinstitut verwendet einen Metadatenspeicher, der jede Datensatzversion, jedes Feature-Engineering-Skript, jeden Trainingslauf und jedes Bereitstellungs-Tag protokolliert. Wenn bei einer behördlichen Prüfung der Verlauf einer bestimmten Bonitätsentscheidung abgefragt wird, ruft das Team die gesamte Herkunft ab und weist so die vollständige Rückverfolgbarkeit nach.
.svg)
