ワーストケース分析
AIシステムの最も深刻な潜在的な障害や悪用を評価して、強固なリスク軽減策と緊急時対応計画に役立てる。
Definition
潜在的な損失（財務、評判、安全）を定量化し、緊急時対応計画を策定するために、システムを理論的またはシミュレートした最大の影響シナリオ（敵対的攻撃、連鎖障害、規制違反）にさらすストレステスト手法。ガバナンスでは、リスクの高いAIアプリケーションを、対応策を文書化し、調査結果を経営幹部がレビューして、毎年最悪のケースの分析を受けることが義務付けられています。
Real-World Example
あるヘルスケアAIベンダーは、自社のトリアージチャットボットで最悪のケース分析を行っています。同時発生するサーバー障害をシミュレートし、重大な症状の誤分類やデータ漏洩シナリオをモデル化して、患者への被害を推定し、フォールバックホットラインのアクティベーションや緊急パッチ配布手順などの対応プロトコルを開発します。
.svg)
