Traçabilité
La capacité de suivre et de documenter chaque étape du cycle de vie de l'IA, de la collecte des données au développement de modèles en passant par le déploiement, afin de faciliter l'audit et la criminalistique.
Définition
Résultat obtenu grâce à un suivi du lignage de bout en bout : les ensembles de données sont versionnés, les transformations des fonctionnalités sont enregistrées, les validations du code d'entraînement sont enregistrées, les hyperparamètres sont stockés et les artefacts de déploiement sont balisés. Les systèmes de traçabilité permettent de reconstituer exactement comment et pourquoi une prédiction donnée a été produite, et facilitent l'analyse des causes profondes en cas de problème. La gouvernance exige que chaque étape du pipeline transmette des métadonnées de provenance à un registre central.
Exemple concret
Une institution financière utilise un magasin de métadonnées qui enregistre chaque version de jeu de données, chaque script d'ingénierie des fonctionnalités, chaque exécution de formation et chaque balise de déploiement. Lorsqu'un audit réglementaire demande l'historique d'une décision spécifique en matière de solvabilité, l'équipe récupère la lignée complète, démontrant ainsi une traçabilité complète.
.svg)
