説明可能性と解釈可能性
両者ともAIの意思決定を理解しやすくすることを目指していますが、説明可能性は意思決定の理由に焦点を当てており、解釈可能性はモデルの内部メカニズムの透明性に関わっています。
解釈可能性（Interpretability）とは、内部のモデル構成要素（重み、特徴量）が成果にどのように対応しているかを明確に把握できることを指し、線形回帰のようなシンプルなモデルで一般的です。説明可能性（Explainability）とは、どのようなモデルに対しても（ブラックボックスを含む）、なぜその意思決定が行われたのかについて、人間に理解しやすい形で事後的に根拠を生成することを指します。ガバナンスにおいては、適切なバランスを選択することが重要です。すなわち、可能な場合は解釈可能なモデルを採用し、困難な場合は説明可能性ツールを活用することが求められます。
銀行は、解釈可能性（係数によって各特徴量の影響を直接示せること）を理由に、信用スコアリングにロジスティック回帰モデルを採用しています。画像ベースの不正検知（ニューラルネット）では、モデル自体が本質的に解釈可能ではないため、説明可能性（サリエンシーマップ）を活用しています。
私たちは、お客様が答えを見つけるお手伝いをします
Enzaiはどのような問題を解決しますか？
Enzaiは、エンタープライズグレードのインフラストラクチャを提供し、AIリスクとコンプライアンスを管理します。AIシステム、モデル、データセット、ガバナンスの決定が文書化され、評価され、監査可能な中央記録システムを作成します。
Enzai は誰のために作られていますか？
Enzaiは他のガバナンスツールとどのように異なりますか？
既存のAIガバナンスプロセスがない場合でも開始できますか。
AIのガバナンスはイノベーションを遅らせるのか？
Enzaiはどのように進化するAI規制と整合性を保っていますか？
リサーチ、インサイト、更新情報
組織がAIを採用し、管理し、監視する能力を、企業レベルの信頼性で強化します。規模で運営する規制対象の組織向けに構築されています。