Un indicateur clé (par exemple, la fréquence des prédictions hors cadre, le taux de décisions inexplicables) qui signale les risques émergents liés à l'IA avant qu'ils ne se concrétisent.
Une mesure prospective indiquant une exposition croissante à certains risques liés à l’IA — tels qu’une hausse des inférences à faible niveau de confiance ou hors distribution, une augmentation des violations de politique signalées, ou des pics de volumes d’alertes. Les KRI permettent une gouvernance proactive en mettant en évidence les problèmes potentiels dès les premiers signes, en déclenchant des procédures de mitigation des risques (par ex., limitation du débit, revue humaine), et en alimentant les tableaux de bord de gestion des risques de l’entreprise aux côtés des KRI financiers et opérationnels.
Un prestataire de soins de santé surveille l’indicateur clé de risque (KRI) « pourcentage d’inférences du modèle avec un niveau de confiance < 50 % ». Lorsque le KRI dépasse 5 % sur une semaine, cela signale une dérive des données ou des problèmes système, ce qui incite les équipes de data science à examiner les pipelines d’entrée et à réentraîner le modèle de diagnostic avant que la prise en charge des patients ne soit affectée.
