Suivi continu des performances des systèmes d'IA, de la dérive des données, des métriques de biais et des événements de sécurité afin de détecter et traiter les risques émergents au fil du temps.
Comprend la surveillance des modèles (précision, dérive), la santé des pipelines de données (échecs d’ingestion), les évaluations d’équité (disparités démographiques) et les alertes de sécurité (détections d’intrusion). La surveillance continue s’appuie sur des tableaux de bord, des alertes automatisées et des revues périodiques. La gouvernance impose des exigences de couverture de la surveillance, la définition des seuils, des procédures de réponse aux incidents et des rapports réguliers aux organes de supervision.
Une plateforme d’e-commerce surveille quotidiennement son moteur de recommandation afin de détecter toute baisse de précision, tout biais entre segments d’utilisateurs et toute erreur d’exécution. Des tableaux de bord personnalisés affichent l’ensemble des métriques ; lorsqu’une métrique dépasse son seuil, l’équipe MLOps reçoit une alerte Slack et applique un protocole de réponse aux incidents prédéfini pour investiguer et remédier à la situation.
