Glossaire
Mis à jour
Une couche de surveillance secondaire, implémentée sous forme de services ou de processus distincts, qui inspecte les sorties des modèles en temps réel par rapport à des règles prédéfinies (par exemple, des contenus interdits ou des prédictions hors limites). En cas de violation, les dispositifs de surveillance (« watchdogs ») peuvent bloquer automatiquement la décision, solliciter une intervention humaine ou restaurer une version sécurisée du modèle. La gouvernance définit les politiques de ces dispositifs de surveillance, les accords de niveau de service (SLA) de réponse ainsi que les exigences de journalisation pour l'analyse forensique.
Exemple
Une intelligence artificielle de modération de contenu est complétée par un service de surveillance qui analyse chaque publication approuvée à la recherche de discours haineux. Si un terme signalé échappe au filtre, le service de surveillance retire immédiatement la publication et ouvre un ticket d'incident pour l'équipe de modération, offrant ainsi un filet de sécurité contre les erreurs du modèle.