AIの意思決定を監視し、ポリシーや閾値が違反された際に警告や介入をトリガーする独立したランタイムチェックです。
事前に定義されたルール（例：禁止コンテンツ、許容範囲外の予測）に照らしてモデル出力をリアルタイムで検査する、分離されたサービスまたはプロセスとして実装される二次監視レイヤーです。違反が発生した場合、ウォッチドッグは意思決定を自動的にブロックし、人によるレビューへエスカレーションし、または安全なモデルバージョンへロールバックすることができます。ガバナンスでは、フォレンジック分析に向けたウォッチドッグのポリシー、対応SLA、ならびにログ要件を定義します。
コンテンツモデレーションAIは、承認済みのすべての投稿をヘイトスピーチのパターンについてスキャンする監視サービスによって補完されています。万が一、フラグ対象の用語がすり抜けた場合、監視サービスは直ちに当該投稿を取り下げ、モデレーションチーム向けのインシデントチケットを起票し、モデルの誤りに対するセーフティネットを提供します。
