AIモデルの内部メカニズムまたは意思決定の合理性を人間が理解できる程度。
モデル構造に本来的に備わる透明性を指します。たとえば、特徴量の影響が出力に直接対応づけられる線形モデルや決定木などが該当します。解釈可能性ガバナンスでは、高リスクのユースケースに対して解釈可能なモデルの採用を推奨し、モデルのロジックを明確に文書化するとともに、不透明なモデルは低リスク領域に限定するか、事後的な説明手法と組み合わせて運用することを求めます。
クレジットスコアリングチームは、初期の融資承認において、各分岐を直接解釈できる（「income > $50K」）ことから、決定木モデルを採用します。さらに、ツリーのロジックをステークホルダーに公開することで、完全な解釈可能性を確保し、規制当局による審査の円滑化を実現します。
