用語集
更新日
解釈可能性とは、内部モデルのコンポーネント（重みや特徴量）がどのように結果に関連しているかという明確さであり、シンプルなモデル（線形回帰など）でよく見られます。説明可能性とは、ブラックボックスを含むあらゆるモデルに対して、人間が理解しやすい正当な理由（なぜその決定が下されたのか）を事後的に生成することです。ガバナンスにおいては、可能な限り解釈可能なモデルを選択し、それが困難な場合には説明可能性ツールを活用するという、適切なバランスを選択することが求められます。
例
ある銀行では、解釈可能性（係数が特徴量の影響を直接示すこと）を理由に、与信スコアリングのモデルとしてロジスティック回帰を採用しています。一方、画像ベースの不正検出（ニューラルネットワーク）においては、モデル自体に本質的な解釈可能性がないため、説明可能性（サリエンシーマップなど）を活用しています。