最終更新日:
AIモデルの意思決定プロセスを人間にとって透明かつ理解しやすいものにし、説明責任とコンプライアンスの遵守を支援するための技術および手法。
サロゲートモデル（ブラックボックスの挙動を近似する決定木）、特徴量寄与度算出手法（SHAP、LIME）、反事実的説明、サリエンシーマップなど、特定の予測を導いた入力要因を明らかにする一連のアルゴリズムおよび提示アプローチ。XAIは、忠実度（説明の正確性）、理解容易性（対象となる利用者の分かりやすさ）、および実用的な洞察を重視し、モデル開発プロセスとユーザー向けツールの双方に統合されています。
実際の導入事例：
融資審査AIはSHAPを活用し、申請者ごとの詳細な内訳（「低収入のウェイト：35%、短い信用履歴のウェイト：30%、高い負債比率のウェイト：20%」など）を生成します。審査担当者は、モデルのスコアと合わせてこれらの説明を確認することで、公平な意思決定を担保し、申請者や規制当局に対して明確な根拠を提示することができます。
