最終更新日:
AIシステムの最も極端な潜在的障害や悪用事例を評価し、堅牢なリスク緩和策およびコンティンジェンシープランを策定します。
最悪シナリオ分析（ワーストケース・アナリシス）とは、システムに対して敵対的攻撃、連鎖的障害、規制違反といった、論理的またはシミュレーション上の最大インパクトシナリオを適用し、潜在的な損失（財務、レピュテーション、安全性）を定量化して、コンティンジェンシープランを策定する負荷テスト手法です。ガバナンスの規定により、高リスクのAIアプリケーションには年1回の最悪シナリオ分析の実施、文書化された対応プレイブックの整備、および役員会による結果のレビューが義務付けられています。
実際の導入事例：
ある医療分野のAIベンダーが、自社のトリアージ用チャットボットに対して最悪のシナリオを想定した分析を実施しています。具体的には、サーバーの同時障害、深刻な症状に関するモデルの誤分類、およびデータ侵害のシナリオをシミュレーションし、患者への被害を予測しています。これにより、代替手段であるホットラインの有効化や、緊急パッチの適用手順を含む対応プロトコルを策定しています。
