XAI (説明可能な人工知能)
AIモデルの意思決定プロセスを人間にとって透明で理解しやすいものにし、説明責任とコンプライアンスをサポートする手法と方法。
Definition
サロゲートモデル（ブラックボックスの振る舞いを近似する決定木）、特徴アトリビューション手法（SHAP、LIME）、反事実に基づく説明、顕著性マップなど、一連のアルゴリズムとプレゼンテーションのアプローチにより、どの入力が特定の予測につながったかを明らかにします。XAIは、忠実度（説明の正確さ）、わかりやすさ（対象読者への明確さ）、実用的な洞察に重点を置いており、モデル開発とユーザー向けツールの両方に統合されています。
Real-World Example
ローンスコアリングAIは、SHAPを使用して申請者ごとの内訳（「35％の重み：低所得、30％の重み：短い信用履歴、20％の加重：高い負債比率」）を生成します。引受人はこれらの説明をモデルスコアと併せて検討することで、公正な決定を確実に行うとともに、申請者と規制当局に明確な正当性を示すことができます。
.svg)
