最終更新日:
AIシステムにおける潜在的な危害や不具合を特定、分析、優先順位付けし、適切な緩和策を決定するプロセス。
脅威（バイアス、プライバシー侵害、セキュリティ上の脆弱性の悪用など）をカタログ化し、その発生可能性と潜在的な影響（財務、レピュテーション、安全性）を評価し、リスクスコアに基づいて優先順位を付ける体系的な活動。その成果物として、軽減策の計画を推進するリスクレジスタが作成されます。モデル、データ、または運用コンテキストが変更されるたびにリスクアセスメントが再評価され、AIライフサイクル全体を通じて新たに発生する脅威が確実に捕捉されます。
実際の導入事例：
与信判断AIを導入する前に、銀行のリスク管理チームはリスク（誤判定による融資却下、データ漏洩など）を洗い出し、発生可能性と影響度を評価した上で、最優先のリスクを特定します。その後、優先度の高い項目に対処するため、却下された申請に対する人間による審査の強化や、暗号化されたログ記録などの具体的な管理策を策定します。
