最終更新日:
AIの意思決定を監視し、ポリシーやしきい値が違反された場合にアラートをトリガー、または介入を実施する、独立したランタイム検証機能。
セカンダリ監視レイヤー（個別のサービスまたはプロセスとして実装される）は、事前定義されたルール（禁止されたコンテンツ、許容範囲外の予測など）に照らし合わせて、モデルの出力をリアルタイムで検査します。ポリシー違反が発生した場合、ウォッチドッグは自動的に意思決定をブロック、人間による確認へのエスカレーション、または安全なモデルバージョンへのロールバックを実行できます。ガバナンスは、フォレンジック分析のためのウォッチドッグポリシー、対応SLA、およびログ記録要件を定義します。
実際の導入事例：
コンテンツモデレーションAIは、承認されたすべての投稿をスキャンしてヘイトスピーチのパターンを検出するウォッチドッグサービスによって補完されています。万が一、フラグが設定された用語が見落とされた場合でも、ウォッチドッグは即座にその投稿を非公開にし、モデレーションチームに向けてインシデントチケットを作成します。これにより、モデルのエラーに対するセーフティネットが提供されます。
