クエリー・ロギング
AI システムからの入力やユーザークエリを記録して、監査証跡を作成したり、悪用を検出したり、説明責任を果たしたりする手法です。
Definition
すべてのユーザー要求、入力パラメーター、タイムスタンプ、ユーザーID、およびシステム応答をキャプチャするガバナンスの基本機能。ログは整合性チェックとアクセス制御により安全に保管されます。クエリログは、インシデント (ポリシー違反など) のフォレンジック分析、使用状況の分析、デバッグ、コンプライアンス報告 (同意の証明など) に役立ちます。ガバナンスでは、保存期間、匿名化ポリシー、およびログの完全性に関する定期的な監査を定義します。
Real-World Example
ヘルスケアチャットボットは、各患者のクエリ(匿名ID)、AIの応答、および信頼スコアを記録します。プライバシーに関する苦情が発生すると、コンプライアンスチームは関連するログを取得してどのデータが要求または共有されたかを検証します。これにより、説明責任が示され、是正措置が可能になります。