最終更新日:
誤検知（偽陽性）と検出漏れ（偽陰性）などのリスクのバランスを考慮し、AIの意思決定ルールにおける境界値またはカットオフ値（確信度スコアなど）を定義すること。
これは、自動化されたアクションを実行するタイミングと、人間のレビューが必要なタイミングを決定する、信頼度、確率、スコアのカットオフといった意思決定のしきい値の選択を伴います。しきい値は、リスク許容度、費用便益分析、およびステークホルダーの選好に基づいて設定されます。ガバナンスプロセスでは、しきい値の設定を文書化し、サブグループ間でテストし、状況の変化に応じて定期的に再調整して、最適なトレードオフを確保することが求められます。
実際の導入事例：
医療診断AIは、確信度が90%を超えた場合にのみバイオプシー（生検）推奨のフラグを立てることで、誤警報を減らします。確信度が70〜90%のスキャンは、放射線科医に回されてレビューを受けます。四半期ごとのキャリブレーションにより、これらのしきい値が維持され、過小診断率を1%未満、過剰診断率を5%未満という目標値に抑えることができます。
