Glossaire
Mis à jour
Étend la surveillance des modèles afin d'inclure les signaux de gouvernance (incidents liés à la confidentialité, journaux de violation des politiques, tendances des mesures éthiques) aux côtés des mesures de performance et de sécurité. Les cadres de surveillance post-déploiement ingèrent diverses données de télémétrie, effectuent des audits périodiques (par exemple, contrôles d'équité, analyses d'anomalies) et déclenchent des flux de travail de gouvernance lorsque les seuils sont dépassés, garantissant ainsi que les mesures correctives (réentraînement, restauration, notification juridique) sont prises dans les plus brefs délais.
Exemple
Le détecteur de discours de haine d'une plateforme de réseaux sociaux envoie tout le contenu signalé comme présentant un risque élevé ou non classifié par l'IA dans une file d'attente de modération. Après le déploiement, le système surveille mensuellement les taux de faux positifs ; si ce taux dépasse 2 %, le tableau de bord de gouvernance ouvre un ticket d'investigation pour le réentraînement du modèle et l'ajustement des règles.