Surveillance des chiens de garde
Des contrôles d'exécution indépendants qui observent les décisions de l'IA et déclenchent des alertes ou des interventions en cas de violation des politiques ou des seuils.
Définition
Une couche de surveillance secondaire, mise en œuvre en tant que services ou processus distincts, qui inspecte les sorties du modèle en temps réel par rapport à des règles prédéfinies (par exemple, contenu interdit, prévisions hors limites). En cas de violation, les organismes de surveillance peuvent automatiquement bloquer la décision, passer à un examen humain ou revenir à une version de modèle sécurisée. La gouvernance définit les politiques de surveillance, les SLA de réponse et les exigences de journalisation pour les analyses forensiques.
Exemple concret
Une IA de modération du contenu est complétée par un service de surveillance qui analyse chaque publication approuvée à la recherche de modèles de discours de haine. Si un terme signalé passe, le chien de garde retire immédiatement la publication et ouvre un ticket d'incident pour l'équipe de modération, fournissant ainsi un filet de sécurité contre les erreurs de modèle.
.svg)
