AIモデルの意思決定プロセスを人間に対して透明で理解可能にする技術と方法であり、責任とコンプライアンスの支援を行います。
アルゴリズムおよび可視化の各種アプローチ（例：ブラックボックスの挙動を近似するサロゲートモデル［決定木］、特徴量寄与手法［SHAP、LIME］、反実仮想説明、サリエンシーマップ）により、特定の予測を導いた入力要因を明らかにします。XAIは、忠実性（説明の正確性）、理解容易性（対象ユーザーにとっての明瞭さ）、および実行可能なインサイトを重視し、モデル開発プロセスとユーザー向けツールの双方に統合されています。
ローン審査AIは、SHAPを用いて申請者ごとの内訳（「重み35%：低所得、重み30%：信用履歴が短い、重み20%：負債比率が高い」）を提示します。審査担当者は、公正な意思決定を確保するために、これらの説明をモデルスコアと併せて確認し、申請者および規制当局に対して明確な根拠を示すことができます。
