Une enquête structurée visant à déterminer les raisons sous-jacentes des défaillances ou des comportements inattendus des systèmes d'IA, guidant les actions correctives.
Une méthodologie post-incident — les 5 pourquoi, les diagrammes en arêtes de poisson — qui retrace les événements de défaillance (par ex., mauvaises classifications de modèles, interruptions de système) en remontant à travers les pipelines de données, la logique des modèles et les couches d’infrastructure afin d’identifier le défaut principal. L’analyse des causes racines documente les constats et les plans de remédiation, garantit que les actions correctives traitent les problèmes systémiques et prévient toute récurrence. La gouvernance exige une RCA pour tout incident de gravité élevée, avec un examen des résultats par la direction.
Après qu’un moteur de recommandation a commencé à suggérer du contenu inapproprié, l’équipe a procédé à une analyse des causes profondes : elle a constaté qu’un script d’ingestion des données avait fusionné des données de test et de production, biaisant ainsi l’entraînement. Elle a corrigé le script, revalidé le modèle et ajouté des tests unitaires au pipeline d’ingestion, éliminant ainsi le risque de futures contaminations entre environnements.
