用語集
更新日
モデルが良性のケースを悪質と判定するシナリオであり、セキュリティ、不正検知、医療スクリーニングにおいて一般的です。誤検知（偽陽性）率が高くなると、人間のレビューアの処理能力を超え、信頼を損ない、不要なコストが発生する可能性があります。ガバナンスにおいては、適合率（Precision）の監視、許容可能なしきい値の設定、およびアラートを効果的にバッチ処理または優先順位付けするための人間によるレビューのトリガーの実装が求められます。
例
クレジットカード不正検知AIの誤検知率は10%であり、これは正当な取引の10件に1件がブロックされることを意味します。同行は、5分以内に誤検知をレビューするための迅速な対応チームを立ち上げ、ピーク時のショッピング時間帯における誤検知を減らすためにモデルのしきい値を調整し、お客様の不便を最小限に抑えるための事前承認ルールを顧客に通知します。