AIの説明可能性
AIシステムの内部メカニズムが人間によってどの程度理解され解釈されるか。
AIの意思決定を透明化し、ステークホルダーが成果を理解し、異議を申し立て、信頼できるようにするための、手法群（サロゲートモデル、特徴量アトリビューション、反事実）およびプロセス（ドキュメンテーション、ユーザーフレンドリーなダッシュボード）。
信用スコアリングモデルは、SHAPを用いて、どの金融要因（例：「信用履歴が短い」）が融資の否認に影響したのかを明確化します。融資担当者は、AIの推奨と併せてこれらの説明を確認することで、申請者が情報の誤りを修正し、人的審査を依頼できるようになります。
