Dernière mise à jour :
Mesures quantitatives (par exemple, la dérive de la précision, les scores d'équité, le temps de réponse aux incidents) utilisées pour surveiller la santé des systèmes d'IA, ainsi que les objectifs de risque et de conformité.
Un ensemble d'indicateurs pilotés par tableau de bord - spécifiques aux modèles (précision, latence), spécifiques à la gouvernance (pourcentage de modèles disposant d'évaluations d'impact à jour) et organisationnels (temps moyen de remédiation des biais). Ces métriques sont examinées à des cadences définies par les instances de gouvernance et alignées sur les objectifs stratégiques, permettant ainsi des décisions fondées sur les données en matière d'allocation des ressources, d'amélioration des processus et de priorisation des risques.
Exemple concret :
La fiche d'évaluation de la gouvernance de l'IA d'une entreprise technologique comprend des indicateurs clés de performance (KPI) : 100 % des modèles en production disposent d'une validation à jour, le temps de réponse moyen aux incidents est inférieur à 24 heures et des tendances mensuelles des mesures d'équité sont établies. Le Comité d'éthique des données examine ces indicateurs chaque trimestre afin d'orienter les mises à jour des politiques.
