用語集
更新日
信頼性の低い推論や分布外（OOD）推論の上昇、ポリシー違反フラグの増加、アラート発生数の急増など、特定のAIリスクへの曝露（エクスポージャー）の高まりを示す、先行指標となる測定基準です。KRI（重要リスク指標）は、潜在的な問題を早期に顕在化させてリスク軽減のためのプレイブック（スロットリングや人的レビューなど）を実行し、財務・運用面のKRIと並んで企業のリスクダッシュボードに反映させることで、プロアクティブなガバナンスを実現します。
例
ある医療機関では、KRI（重要リスク指標）として「信頼度が50%未満のモデル推論の割合」を監視しています。このKRIが1週間で5%を超えた場合、データのドリフト（偏り）やシステム障害の兆候を示しており、データサイエンスチームが入力パイプラインを調査し、患者へのケアに影響が及ぶ前に診断モデルを再学習するように促します。