最終更新日:
予測や意思決定に対して、明確で理解しやすい説明を提供するように設計された機械学習モデル。
これには、本質的に解釈可能なアルゴリズム（決定木、ルールリストなど）の選択や、精度と透明性のバランスをとるハイブリッドモデルの構築が含まれます。ガバナンスのベストプラクティスとしては、モデルロジックの文書化、説明の明確さに関するユーザーテストの実施、および説明可能な代替案が存在する場合に不透明なモデルの適用を低リスクな領域に限定することなどが挙げられます。
実際の導入事例：
ある住宅ローン貸付業者は、初期のローン承認に説明可能な決定木モデルを使用しています。各決定パスはわかりやすい言葉のルール（例：「収入が5万ドルを超え、かつ信用スコアが700を超える場合は承認」）に変換されるため、ローン担当者や監査人は、すべての承認を人間が理解できる基準に直接紐づけて追跡することができます。
