Analyse des causes profondes
Une enquête structurée visant à déterminer les raisons sous-jacentes des défaillances des systèmes d'IA ou des comportements inattendus, afin d'orienter les actions correctives.
Définition
Une méthodologie post-incident (5 pourquoi, diagrammes en arête de poisson) qui retrace les événements de défaillance (par exemple, les erreurs de classification des modèles, les pannes du système) via les pipelines de données, la logique des modèles et les couches d'infrastructure afin d'identifier le défaut principal. L'analyse des causes profondes documente les résultats et les plans de remédiation, garantit que les mesures correctives permettent de résoudre les problèmes systémiques et d'éviter qu'ils ne se reproduisent. La gouvernance exige la RCA pour tout incident de haute gravité, avec un examen exécutif des résultats.
Exemple concret
Après qu'un moteur de recommandation a commencé à suggérer du contenu inapproprié, l'équipe a effectué une analyse des causes profondes : elle a découvert qu'un script d'ingestion de données avait fusionné des données de test et de production, faussant ainsi la formation. Ils ont corrigé le script, revalidé le modèle et ajouté des tests unitaires au pipeline d'ingestion, éliminant ainsi le risque de contamination interenvironnementale future.
.svg)
