AI による説明のしやすさ
AI システムの内部メカニズムを人間がどの程度理解し、解釈できるか。
Definition
利害関係者が結果を理解し、異議を唱え、信頼できるように、AIの意思決定を透明にする一連の方法（代理モデル、機能アトリビューション、反事実）とプロセス（ドキュメンテーション、ユーザーフレンドリーなダッシュボード）。
Real-World Example
クレジットスコアリングモデルでは、SHAPを使用して、どの財務要因（「信用履歴が低い」など）が拒否に影響を与えたかを強調します。融資担当者はこれらの説明を AI の推奨内容と併せて検討するので、申請者は不正確な点を訂正し、人間による審査を依頼できます。
.svg)
