AIシステムは、その決定と行動について人間が理解できる説明を提供するように設計されており、透明性と信頼性を高めます。
明確で文脈に即した説明（特徴量の寄与度、ルール抽出、反実仮想シナリオ）を生成するための手法およびフレームワークを、ステークホルダー（エンドユーザー、規制当局、開発者）のニーズに合わせて提供します。XAIガバナンスには、説明フォーマットの標準化、説明の忠実性の検証、ならびにユーザーがそれらを適切に解釈するためのトレーニングが含まれます。
あるクレジットカード会社は、不正検知アラートにLIMEの説明を統合することでXAIを活用しています。AIが取引を不審であると判定した際、ユーザーに「通常と異なる加盟店所在地」と「高額な取引金額」が主要な寄与要因であることを提示し、確認プロセスの迅速化を実現するとともに、誤検知によるエスカレーションを30%削減しました。
