Surveillance des écarts
Suivi des fluctuations des résultats des modèles d'IA ou des mesures de performance au fil du temps pour détecter toute dérive et déduire une dégradation ou un risque potentiel.
Définition
Il s'agit de calculer les variances statistiques des indicateurs clés (distributions de prédiction, importance des caractéristiques, scores de performance) et de les comparer à des bases de référence continues. Des écarts importants déclenchent des alertes pour une enquête plus approfondie. La gouvernance définit des bandes de variance acceptables, des fréquences de surveillance et des procédures de réponse automatisées (vérifications du pipeline de données, réentraînement des modèles) afin de maintenir la stabilité et la fiabilité du modèle.
Exemple concret
Une IA de publicité en ligne suit la variation hebdomadaire de la répartition des clics entre les segments d'utilisateurs. Lorsque la variance dépasse le double de l'écart type historique, une alerte invite l'équipe chargée de la gestion de la flotte de données à inspecter les modifications récentes du code ou des données, afin d'éviter qu'une dérive inaperçue n'affecte les performances de la campagne.
.svg)
