両者ともAIの意思決定を理解しやすくすることを目指していますが、説明可能性は意思決定の理由に焦点を当てており、解釈可能性はモデルの内部メカニズムの透明性に関わっています。
解釈可能性（Interpretability）とは、内部のモデル構成要素（重み、特徴量）が成果にどのように対応しているかを明確に把握できることを指し、線形回帰のようなシンプルなモデルで一般的です。説明可能性（Explainability）とは、どのようなモデルに対しても（ブラックボックスを含む）、なぜその意思決定が行われたのかについて、人間に理解しやすい形で事後的に根拠を生成することを指します。ガバナンスにおいては、適切なバランスを選択することが重要です。すなわち、可能な場合は解釈可能なモデルを採用し、困難な場合は説明可能性ツールを活用することが求められます。
銀行は、解釈可能性（係数によって各特徴量の影響を直接示せること）を理由に、信用スコアリングにロジスティック回帰モデルを採用しています。画像ベースの不正検知（ニューラルネット）では、モデル自体が本質的に解釈可能ではないため、説明可能性（サリエンシーマップ）を活用しています。
