最終更新日:
AIによる意思決定の理解度を高めるという目的は共通していますが、説明可能性（Explainability）が意思決定の背後にある「理由」に焦点を当てるのに対し、解釈可能性（Interpretability）はモデルの内部的な仕組みの「透明性」に関連しています。
解釈可能性とは、内部モデルのコンポーネント（重みや特徴量）がどのように結果に関連しているかという明確さであり、シンプルなモデル（線形回帰など）でよく見られます。説明可能性とは、ブラックボックスを含むあらゆるモデルに対して、人間が理解しやすい正当な理由（なぜその決定が下されたのか）を事後的に生成することです。ガバナンスにおいては、可能な限り解釈可能なモデルを選択し、それが困難な場合には説明可能性ツールを活用するという、適切なバランスを選択することが求められます。
実際の導入事例：
ある銀行では、解釈可能性（係数が特徴量の影響を直接示すこと）を理由に、与信スコアリングのモデルとしてロジスティック回帰を採用しています。一方、画像ベースの不正検出（ニューラルネットワーク）においては、モデル自体に本質的な解釈可能性がないため、説明可能性（サリエンシーマップなど）を活用しています。
