Une métrique quantifiable (par exemple, la dérive de précision du modèle, le temps de correction des biais) utilisée pour surveiller et rendre compte des objectifs de gouvernance et de conformité de l'IA.
Une valeur spécifique et mesurable qui reflète l’efficacité avec laquelle une organisation ou un projet d’IA atteint ses objectifs de gouvernance — tels que la stabilité globale de la précision des modèles dans le temps, le délai moyen de détection et de correction des problèmes de biais, ou le pourcentage de modèles disposant d’évaluations d’impact à jour. De bons KPI sont alignés sur des objectifs stratégiques, comportent des seuils clairement définis et sont suivis au moyen de tableaux de bord automatisés afin de déclencher des interventions en temps opportun lorsque les indicateurs s’écartent des plages acceptables.
Une banque de détail suit l’indicateur clé de performance « pourcentage mensuel de dérive du modèle », qui mesure la baisse de précision prédictive de son modèle de risque de crédit par rapport à son dernier étalonnage. Lorsque la dérive dépasse 3 %, une alerte automatisée déclenche un pipeline de réentraînement du modèle, garantissant que les décisions de crédit restent fiables et conformes aux normes internes de précision.
