Glossaire
Mis à jour
Une mesure prospective qui signale une exposition croissante à des risques d'IA particuliers, tels qu'une hausse des inférences à faible niveau de confiance ou hors distribution, une augmentation des violations de politiques signalées, ou des pics de volume d'alertes. Les KRI permettent une gouvernance proactive en détectant rapidement les problèmes potentiels, en déclenchant des scénarios d'atténuation des risques (par exemple, la limitation du débit, l'examen humain) et en alimentant les tableaux de bord des risques de l'entreprise aux côtés des KRI financiers et opérationnels.
Exemple
Un prestataire de soins de santé surveille l'indicateur de risque clé (KRI) « pourcentage d'inférences du modèle avec un niveau de confiance < 50 % ». Lorsque cet indicateur dépasse le seuil de 5 % au cours d'une semaine, cela signale une dérive des données ou des dysfonctionnements du système, incitant les équipes de science des données à examiner les pipelines d'entrée et à réentraîner le modèle de diagnostic avant que la prise en charge des patients ne soit affectée.