司法審査
裁判所がAIによって下された、または支援された決定の合法性を評価し、説明責任と適正手続きを確保するための法的手続き。
Definition
AIが支援する判決（判決の推奨、給付金の拒否など）に異議申し立てがあった場合、裁判所は、AIプロセスが法的基準（人間による監視の妥当性、データの権利、理論的根拠の透明性）に準拠しているかどうかを審査します。司法審査では、AIの説明責任は確立されたデュープロセスの原則に基づいており、管理可能なログ、説明のしやすさ、人間による上訴メカニズムの利用可能性が求められます。
Real-World Example
社会福祉受給者がAIベースの給付拒否に対して上訴する。法廷では、裁判官はAIの決定ログとSHAPの説明を審査し、モデルが所得基準値を誤って適用したと判断し、上訴審査段階を含むように給付金を復活させ、AI監査手順を見直すよう政府機関に命じます。
.svg)
