Métriques et indicateurs de performance clés
Mesures quantitatives (par exemple, dérive de précision, scores d'équité, temps de réponse aux incidents) utilisées pour surveiller la santé, les risques et les objectifs de conformité du système d'IA.
Définition
Ensemble d'indicateurs pilotés par des tableaux de bord : spécifiques au modèle (précision, latence), spécifiques à la gouvernance (pourcentage de modèles avec des évaluations d'impact en cours) et organisationnels (temps moyen avant correction des biais). Les mesures sont examinées à des cadences définies par les organes de gouvernance et liées à des objectifs stratégiques, ce qui permet de prendre des décisions fondées sur des données concernant l'allocation des ressources, l'amélioration des processus et la hiérarchisation des risques.
Exemple concret
Le tableau de bord de la gouvernance de l'IA d'une entreprise technologique comprend des indicateurs de performance clés : 100 % des modèles de production ont une validation à jour, un temps de réponse moyen aux incidents inférieur à 24 heures et des tendances mensuelles en termes de mesures d'équité. Le Data Ethics Council examine ces indicateurs tous les trimestres pour orienter les mises à jour des politiques.
.svg)
