Surveillance continue du comportement de l'IA et des signaux externes (par exemple, les mises à jour réglementaires) afin d'identifier et de répondre rapidement aux risques émergents ou aux non-conformités.
Un programme holistique combinant la surveillance du comportement à l’exécution (taux d’erreur, indicateurs de biais, alertes de sécurité) avec des activités de veille prospective (nouvelles réglementations, évolutions des politiques, résultats de la recherche académique). Les alertes alimentent les workflows de gouvernance, et les dispositifs de suivi des changements réglementaires informent les équipes de conformité des mises à jour nécessitant des ajustements des politiques ou des systèmes. La gouvernance définit des canaux dédiés au renseignement sur les menaces, à la surveillance réglementaire et à des cycles de revue périodiques afin de garantir que le programme d’IA reste à jour et conforme.
L’équipe de surveillance de la vigilance d’une société de trading financier examine quotidiennement les journaux de performance des modèles et analyse les bulletins réglementaires à la recherche de nouvelles directives (par ex., les normes d’utilisation de l’IA de MiFID II). Lorsqu’elle détecte une proposition de modification réglementaire, elle lance un processus de mise à jour des politiques — en faisant correspondre les nouvelles exigences aux contrôles du système et en garantissant l’état de préparation avant la date d’entrée en vigueur de la réglementation.
