最終更新日:
AIによる説明の品質と信頼性を評価するために使用される、定量的または定性的な測定基準（例：機能の重要度スコア、説明の忠実度など）。
忠実性（説明が実際のモデルの動作にどの程度一致しているか）、安定性（同様の入力下における説明の一貫性）、包括性（主要な特徴量の網羅性）、シンプルさ（ユーザーにとっての簡潔さ）などの説明の特性を評価するメトリクス。ガバナンスでは、これらのメトリクスを使用して説明手法をベンチマークし、受け入れしきい値を設定し、経時的な改善を追跡します。
実際の導入事例：
Eコマースプラットフォームの不正検知アラートに関する説明は、特徴量属性のランキングと実際のモデル感度との相関関係を測定することによって、その忠実度が評価されます。調査担当者に信頼性の高いインサイトを提供するため、忠実度が0.85を超える説明方法のみがエンドユーザー向けダッシュボードへの掲載を承認されます。
