Dernière mise à jour :
Une surveillance continue du comportement de l'IA et des signaux externes (tels que les évolutions réglementaires) afin d'identifier rapidement et de traiter les risques émergents ou les cas de non-conformité.
Un programme holistique combinant la surveillance du comportement en temps d'exécution (taux d'erreur, mesures de biais, alertes de sécurité) avec des activités de veille prospective (nouvelles réglementations, changements de politiques, découvertes académiques). Les alertes alimentent les flux de gouvernance, et des outils de suivi des changements réglementaires informent les équipes de conformité des mises à jour nécessitant des ajustements de politiques ou de systèmes. La gouvernance définit les canaux pour l'intelligence sur les menaces, la surveillance réglementaire et les cycles d'examen périodiques afin de garantir que le programme d'IA reste à jour et conforme.
Exemple concret :
L’équipe de surveillance de la conformité d’une société de trading financier examine quotidiennement les journaux de performance des modèles et scrute les bulletins réglementaires à la recherche de nouvelles directives (par exemple, les normes d’utilisation de l’IA selon MiFID II). Dès la détection d’un projet de modification réglementaire, elle initie un processus de mise à jour des politiques, en associant les nouvelles exigences aux contrôles du système et en garantissant la conformité avant la date d’entrée en vigueur de la réglementation.
