Journalisation des requêtes
Pratique qui consiste à enregistrer les entrées du système d'IA et les requêtes des utilisateurs pour permettre des pistes d'audit, détecter les abus et favoriser la responsabilisation.
Définition
Une fonctionnalité fondamentale en matière de gouvernance qui capture chaque demande utilisateur, tous les paramètres d'entrée, l'horodatage, l'identifiant utilisateur et la réponse du système. Les journaux sont stockés en toute sécurité avec des contrôles d'intégrité et des contrôles d'accès. Les journaux de requêtes permettent l'analyse judiciaire des incidents (par exemple, les violations des politiques), l'analyse de l'utilisation, le débogage et les rapports de conformité (par exemple, la preuve du consentement). La gouvernance définit les périodes de conservation, les politiques d'anonymisation et les audits réguliers de l'intégrité des journaux.
Exemple concret
Un chatbot de santé enregistre chaque requête du patient (identifiant anonymisé), la réponse de l'IA et le score de confiance. Lorsqu'une plainte relative à la confidentialité est déposée, l'équipe chargée de la conformité récupère les journaux pertinents pour vérifier quelles données ont été demandées ou partagées, démontrant ainsi sa responsabilité et permettant de prendre des mesures correctives.
.svg)
