リスクアセスメント
適切な緩和戦略を決定するために、AIシステムにおける潜在的な危害や障害を特定、分析、優先順位付けするプロセス。
Definition
脅威(偏見、プライバシー侵害、セキュリティエクスプロイトなど)を分類し、その可能性と潜在的な影響(財務、評判、安全性)を評価し、リスクスコアでランク付けする体系的な活動。アウトプットは、緩和計画に役立つリスクレジスターです。リスク評価は、モデル、データ、または運用環境が変更されるたびに再検討され、新たな脅威が AI ライフサイクル全体にわたって確実に捕捉されるようになっています。
Real-World Example
与信決定AIを導入する前に、銀行のリスクチームはリスク(信用拒否の誤検知、データ漏えいなど)をマッピングし、発生確率/影響度格付けを割り当て、上位リスクを特定します。次に、最も優先度の高い項目に対処するために、対象を絞った統制(拒否された申請については人間による確認を強化し、ロギングを暗号化する)を開発します。