最終更新日:
意思決定や行動に対して人間が理解できる根拠を提供し、透明性と信頼性を向上させるように設計されたAIシステム。
エンドユーザー、規制当局、開発者といったステークホルダーのニーズに合わせて、明確で文脈に適した説明（特徴量の寄与度、ルールの抽出、反事実的シナリオなど）を生成する手法とフレームワーク。XAI（説明可能なAI）ガバナンスには、説明形式の標準化、説明の忠実度の検証、およびこれらを適切に解釈するためのユーザー教育が含まれます。
実際の導入事例：
あるクレジットカード会社は、LIMEの解説を不正検知アラートに統合することでXAI（説明可能なAI）を活用しています。AIが取引を不審と判定した際、ユーザーに対して「通常とは異なる加盟店の場所」や「高額な取引金額」が主な要因であることを提示します。これにより、迅速な確認が可能となり、誤検知によるエスカレーションを30%削減することに成功しました。
