最終更新日:
LIME、SHAP、サリエンシーマップ（特徴量マップ）など、AIモデルが行った意思決定を解釈および理解するために用いられる手法。
フィーチャー・アトリビューション（特徴量の寄与度）の生成、意思決定経路の可視化、反事実的説明の作成を行う、モデルに依存しないアプローチ（LIME、SHAP）およびモデル固有のアプローチ（CNNのサリエンシー、アテンションの可視化）のツールボックスです。ガバナンスのベストプラクティスには、モデルのタイプに適した手法の選択、説明の正確性の検証、そしてエンドユーザーのワークフローへの説明の統合が含まれます。
実際の導入事例：
ある小売チェーンでは、SHAPを使用して顧客離脱予測の要因を説明しています。各レコードにおいて、「月間支出額の高位」や「最近のサービスに対する苦情」が主な要因として示されます。カスタマーサクセスマネージャーは、これらの分析結果を活用してパーソナライズされた離脱防止策を提案し、顧客満足度の向上を実現しています。
