Indicateur de risque clé
Un indicateur avancé (par exemple, la fréquence des prévisions hors du cadre, le taux de décisions inexplicables) qui signale les risques émergents liés à l'IA avant qu'ils ne se concrétisent.
Définition
Mesure prospective qui indique une exposition croissante à des risques particuliers liés à l'IA, tels qu'une légère hausse des inférences peu fiables ou hors distribution, une augmentation des violations des politiques signalées ou des pics de volumes d'alertes. Les KRI permettent une gouvernance proactive en identifiant rapidement les problèmes potentiels, en déclenchant des stratégies d'atténuation des risques (par exemple, limitation, évaluation humaine) et en intégrant les tableaux de bord des risques de l'entreprise aux côtés des KRI financiers et opérationnels.
Exemple concret
Un professionnel de santé surveille le « pourcentage d'inférences du modèle KRI avec un niveau de confiance inférieur à 50 % ». Lorsque le KRI dépasse 5 % en une semaine, cela indique une dérive des données ou des problèmes de système, ce qui incite les équipes de science des données à étudier les pipelines d'entrée et à réentraîner le modèle de diagnostic avant que les soins aux patients ne soient affectés.
.svg)
