AIモデルによって行われた意思決定を解釈し理解するための手法には、LIMEやSHAP、サリエンシーマップなどがあります。
特徴量の寄与度を算出し、意思決定の経路を可視化し、反実仮想説明を生成するための、モデル非依存（LIME、SHAP）およびモデル固有（CNN向けサリエンシー、アテンション可視化）のアプローチ群を備えたツールボックスです。ガバナンスにおけるベストプラクティスとしては、モデルタイプに適した手法の選定、説明精度の検証、そしてエンドユーザーのワークフローへの説明の統合が挙げられます。
ある小売チェーンは、顧客離反予測を説明するためにSHAPを活用しています。各レコードでは、「高い月間支出」と「直近のサービスに関する苦情」が主要な寄与要因として示されます。カスタマーサクセスマネージャーはこれらの説明を活用してリテンション施策の提案を最適化し、顧客満足度を向上させています。
