XAI フレームワーク
組織が AI システム全体にわたる説明可能性のプラクティスを実装、測定、管理するために使用する構造化されたアプローチまたは一連のガイドライン。
Definition
正式なプログラム（多くの場合、ポリシー文書、技術基準、プロセスワークフローで構成されます）は、説明可能性の手法をいつどのように適用するかを規定し、必要な説明形式（テキスト、視覚など）を定義し、役割の設定（説明担当者、監査人）、チェックポイントの確立（設計レビュー、導入前検証、定期監査）を行います。これにより、組織のリスクと規制の要件に沿った、一貫性のある監査可能な XAI の導入が保証されます。
Real-World Example
ある医療提供者は、(1) すべての診断モデルに各予測について現地の説明を含めること、(2) 説明の忠実度が根拠となる特徴量の影響との一致に基づいて測定した場合に 90% を超えること、(3) 四半期ごとのXAI監査で、モデルの再トレーニング後も説明が正確であることを検証することを義務付けるXAIフレームワークを採用しています。
.svg)
