AIの説明の品質と信頼性を評価するために使用される定量的または定性的な指標（例：特徴の重要度スコア、説明の忠実度）。
忠実性（説明が実際のモデル挙動とどの程度一致しているか）、安定性（類似した入力に対する説明の一貫性）、包括性（主要な特徴の網羅性）、および簡潔性（ユーザーにとっての分かりやすさ）といった、説明の特性を評価する指標があります。ガバナンスでは、これらの指標を用いて説明手法のベンチマークを実施し、受け入れ基準のしきい値を設定し、時間の経過に伴う改善を追跡します。
Eコマースプラットフォームの不正アラート説明は、特徴量寄与度ランキングと実際のモデル感度との相関を測定することで、忠実度が評価されます。忠実度が > 0.85 の説明手法のみがエンドユーザー向けダッシュボードで承認され、調査担当者に信頼性の高いインサイトを提供します。
