最終更新日:
AIシステムのリリース後における動作や環境の継続的な監視を通じて、性能低下、概念ドリフト、またはコンプライアンス違反を検知します。
モデルモニタリングの範囲を拡張し、パフォーマンスやセキュリティの指標に加えて、プライバシー侵害の発生、ポリシー違反のログ、倫理指標のトレンドなどのガバナンスシグナルも含めます。展開後のモニタリングフレームワークは、多様なテレメトリを取り込み、定期的な監査（公平性チェックや異常スキャンなど）を実行し、しきい値を超えた場合にガバナンスワークフローをトリガーします。これにより、是正措置（再学習、ロールバック、法的な通知など）が迅速に実施されるようになります。
実際の導入事例：
あるソーシャル・メディア・プラットフォームのヘイトスピーチ検出システムは、AIによって高リスクまたは未分類と判定されたすべてのコンテンツをモデレーターのキューに送信します。導入後、システムは誤検出率を毎月監視します。誤検出率が2%を超えた場合、ガバナンス・ダッシュボードはモデルの再学習とルールの調整のための調査チケットを発行します。
