Suivi continu des performances d'un modèle d'IA, des dérives de données et des indicateurs opérationnels pour détecter toute dégradation ou nouveaux risques potentiels.
Les pipelines d’observabilité en temps réel collectent des métriques — précision, latence, dérive de la distribution des entrées, KPI d’équité, taux d’erreur — et les comparent à des seuils de référence. Des alertes automatisées se déclenchent en cas d’anomalies. La gouvernance définit les éléments à surveiller, les seuils d’alerte, les procédures d’escalade et les déclencheurs de réentraînement, et consigne l’ensemble des données de surveillance à des fins d’audit.
Un modèle de recommandation e-commerce suit quotidiennement les taux de clics (CTR) et l’amélioration des performances par segment démographique des utilisateurs. Lorsque le CTR baisse de plus de 5 % ou que l’amélioration démographique diverge, une alerte est envoyée à l’équipe Data Science Ops, qui examine les problèmes de pipeline de données ou lance un réentraînement du modèle afin de rétablir les performances.
