XAI 監査
AIによる説明可能性のアウトプットが社内の方針や規制要件を満たしているかどうかを評価し、十分な透明性を確保するレビュープロセス。
Definition
社内のコンプライアンス・チームまたは外部監査人による説明アーティファクトの体系的な調査と、ポリシー・チェックリストとの比較（例：「リスクの高い決定にはすべて反事実に基づく説明が含まれていますか？」）、規制上の義務 (GDPR による説明権など)、および利害関係者のニーズ。監査では、技術的な正確性と使いやすさの両方を評価し、調査結果を文書化し、問題改善計画に説明範囲や質にギャップがないかを確認します。
Real-World Example
金融規制当局が、銀行のクレジットスコアリングAIに対してXAI監査を実施しています。監査人は拒否事項をサンプリングし、対応する説明をレビューし、それぞれに明確な根拠と是正策が含まれていることを確認し、説明ログが必要な 5 年間保管されていることを確認します。説明が不足していたり、不十分だったりすると、銀行による是正措置が促されます。
.svg)
