最終更新日:
AIモデルの内部的な仕組みや意思決定の根拠を、人間がどの程度理解できるかを示す度合い。
これは、モデルの構造に本来備わっている透明性を指します。例えば、特徴量の影響が直接出力に関連付けられる線形モデルや決定木などがこれに該当します。説明可能性ガバナンスは、高リスクのユースケースに対して説明可能なモデルの採用を推奨し、モデルのロジックを明確に文書化し、不透明なモデルの使用を低リスクの領域に制限するか、事後的な説明手法と組み合わせることを促します。
実際の導入事例：
ある与信審査チームは、初期段階のローン承認プロセスにおいて、各分岐を直接解釈できる（「収入 ＞ $50k」など）という理由から決定木モデルの採用を決定しました。彼らはその決定木のロジックを関係者に公開し、完全な解釈可能性を確保するとともに、規制審査への対応を容易にしています。
