最終更新日:
AIの説明可能性に関する出力が社内ポリシーや規制要件を満たしているかを評価し、十分な透明性を確保するためのレビュープロセス。
社内のコンプライアンスチームや外部の監査人による説明成果物の体系的な検証。これにより、成果物をポリシーのチェックリスト（例：「すべての高リスクな意思決定に反事実的説明が含まれているか」）、規制上の義務（例：GDPRにおける説明を受ける権利）、およびステークホルダーのニーズと比較します。監査では、技術的な正確性とユーザビリティの双方を評価し、その結果を文書化するとともに、説明の対象範囲や品質におけるあらゆる不備に対して是正計画を発行します。
実際の導入事例：
金融規制当局が、ある銀行の与信スコアリングAIに対してXAI（説明可能なAI）監査を実施します。監査人は、否認された申請をサンプリングして対応する説明内容をレビューし、それぞれに明確な論拠と改善のための提案が含まれていること、および説明のログが義務付けられている5年間の保管期間にわたって保存されていることを確認します。説明の不足や不適切な点が見つかった場合、銀行に対して是正措置が求められます。
