主要リスク指標
新たなAIリスクが顕在化する前にそれを知らせる主要な指標（範囲外の予測の頻度、説明のつかない決定の割合など）。
Definition
特定の AI リスクにさらされるリスクが高まっていることを示す将来を見据えた指標。たとえば、信頼性の低い推論や配信されていない推論の増加、報告されたポリシー違反の増加、警告量の急増などです。KRIは、潜在的な問題を早期に明らかにし、リスク軽減プレイブック (スロットリング、ヒューマンレビューなど) を起動し、財務および業務上のKRIとともに企業リスクダッシュボードに組み込むことで、積極的なガバナンスを可能にします。
Real-World Example
ある医療提供者は、KRIの「50％未満の信頼度でモデル推論を行った割合」をモニタリングしています。KRI が 1 週間で 5% を超えると、データドリフトやシステムの問題が示され、データサイエンスチームは患者ケアに影響が出る前に入力パイプラインを調査して診断モデルを再トレーニングするよう促されます。
.svg)
