Surveillance des modèles
Suivi continu des performances, de la dérive des données et des mesures opérationnelles d'un modèle d'IA afin de détecter la dégradation ou les risques émergents.
Définition
Les pipelines d'observabilité en temps réel collectent des mesures (précision, latence, dérive de distribution des entrées, KPI d'équité, taux d'erreur) et les comparent aux seuils de référence. Des alertes automatisées se déclenchent en cas d'anomalie. La gouvernance définit les éléments à surveiller, les seuils d'alerte, les procédures d'escalade et les déclencheurs de reconversion, et enregistre toutes les données de surveillance à des fins d'audit.
Exemple concret
Un modèle de recommandation de commerce électronique suit quotidiennement les taux de clics et l'augmentation démographique des utilisateurs. Lorsque le CTR chute de plus de 5 % ou que la hausse démographique diverge, une alerte est envoyée à l'équipe Data Science Ops, qui étudie les problèmes liés au pipeline de données ou lance une reconversion du modèle pour rétablir les performances.
.svg)
