モデルリスク管理

ライフサイクル全体を通じてAI/MLモデルから生じるリスクを特定、評価、軽減するための構造化されたプロセス。

Definition

モデルを企業資産として扱うガバナンス規律のことで、モデルのカタログ化、リスクの評価 (パフォーマンス、公平性、セキュリティ)、統制の適用 (検証、監視、緊急時対応計画) を行います。ポリシー、役割 (モデル所有者、リスク委員会)、ツール (モデルインベントリ、リスクダッシュボード)、ワークフロー (定期的なリスクレビュー、エスカレーションパス) を統合して、モデル関連のリスクが許容範囲内に収まるようにします。

Real-World Example

銀行は、各MLモデルがリスクレベルごとにタグ付けされたモデルインベントリを管理しています。モデルリスク委員会は毎月、高リスクモデルの検証レポートをレビューし、パフォーマンスの変動に対する是正計画を承認し、モデルに障害が発生した場合に備えて手動によるフォールバックプロセスが実施されていることを確認します。