用語集
更新日
これは、モデルの構造に本来備わっている透明性を指します。例えば、特徴量の影響が直接出力に関連付けられる線形モデルや決定木などがこれに該当します。解釈可能性ガバナンスは、高リスクのユースケースに対して解釈可能なモデルの採用を推奨し、モデルのロジックを明確に文書化し、不透明なモデルの使用を低リスクの領域に制限するか、事後的な説明手法と組み合わせることを促します。
例
ある与信審査チームは、初期段階のローン承認プロセスにおいて、各分岐を直接解釈できる（「収入 ＞ $50k」など）という理由から決定木モデルの採用を決定しました。彼らはその決定木のロジックを関係者に公開し、完全な解釈可能性を確保するとともに、規制審査への対応を容易にしています。