AIモデルが実際にはネガティブなインスタンスに対して誤ってポジティブクラスを予測する場合（第一種過誤）。
モデルが無害なケースを悪意あるものとして検知してしまうシナリオは、セキュリティ、不正検知、医療スクリーニングにおいて一般的です。偽陽性率が高いと、人的レビュー担当者の負荷が過大になり、信頼を損ない、不要なコストが発生する可能性があります。ガバナンスの観点では、適合率を継続的に監視し、許容可能なしきい値を設定するとともに、アラートを効果的にバッチ処理または優先順位付けできるよう、人によるレビューのトリガーを実装することが求められます。
クレジットカード不正検知AIの偽陽性率は10%であり、これは正当な取引の10件に1件がブロックされることを意味します。銀行は、偽陽性を5分以内に確認する迅速対応チームを設置し、買い物のピーク時間帯における誤検知を低減するためにモデルのしきい値を調整するとともに、お客様のご不便を最小限に抑えるため、事前承認ルールを周知します。
