Dernière mise à jour :
Suivi des fluctuations des résultats des modèles d'IA ou des indicateurs de performance au fil du temps afin de détecter les dérives et d'en déduire une dégradation potentielle ou un risque.
Cela implique de calculer les variances statistiques des indicateurs clés (distributions de prédiction, importance des variables, scores de performance) et de les comparer à des référentiels glissants. Les écarts significatifs déclenchent des alertes pour une investigation plus approfondie. La gouvernance définit les bandes de variance acceptables, les fréquences de surveillance ainsi que les procédures de réponse automatisées (vérifications des pipelines de données, réentraînement du modèle) afin de garantir la stabilité et la fiabilité du modèle.
Exemple concret :
Une intelligence artificielle publicitaire en ligne suit les variations hebdomadaires des distributions de taux de clics à travers les différents segments d'utilisateurs. Lorsque cette variation dépasse le double de l'écart-type historique, une alerte invite l'équipe d'ingénierie des données à rechercher d'éventuelles modifications récentes de code ou de données. Cela permet ainsi d'éviter qu'une dérive invisible n'affecte les performances des campagnes.
