最終更新日:
AIモデルの意思決定ロジックを、ステークホルダーや監査人が理解できるように可視化するための手法およびドキュメント。
特徴量の重要度、決定ルール、または代替的な結果シナリオを明らかにする、固有の（解釈可能なモデル）手法と事後の（SHAP、LIME、反事実的説明）手法の組み合わせ。ガバナンスにおいては、モデルと対象ユーザーに適した説明可能性の手法を選択し、ユーザーインターフェースやコンプライアンスレポートに説明を組み込み、その説明がモデルの動作を正確に反映していることを検証する必要があります。
実際の導入事例：
クレジットカード不正利用検知モデルは、アラートごとに次のようなSHAP説明を提供します。「主な要因：普段と異なる場所、異例の取引規模」。不正アナリストはこれらの説明を活用してアラートの優先順位付けをより効果的に行い、規制当局はコンプライアンス検査時にこれらのSHAPレポートをレビューします。
