最終更新日:
AIによる決定が自身の権利や利益に影響を与える場合、影響を受ける個人がその決定に対して異議を唱え、または救済を求めることを可能にする仕組み。
ユーザーがAIによる判定（例：ローンの謝絶、コンテンツの削除など）に不服を申し立てることを可能にする、組織的なプロセス（異議申し立てワークフロー、人の手による審査チャネル、自動化された説明ツールなど）を指します。リコース（救済）ガバナンスでは、異議申し立て解決に関するSLA（サービス品質保証）、判定理由の説明における必要な透明性、およびリコースの有効性に関する指標（例：判定が覆った割合）を定義します。これにより、組織が影響を受ける当事者の権利を尊重し、AIの信頼性と説明責任を向上させることを保証します。
実際の導入事例：
ある信用情報機関のAIベースのスコアリングポータルは、申請者に対して否認された理由の解説と「再審査請求」ボタンを提供しています。5営業日以内に、人間の査定担当者が案件を再評価し、必要に応じて修正を行い、申請者に最新情報を通知します。これにより、組織の不服申し立てポリシーに対するコミットメントが果たされます。
