しきい値設定
偽陽性と偽陰性などのリスクのバランスをとるために、AIの意思決定ルールに境界値またはカットオフ値（信頼スコアなど）を定義します。
Definition
意思決定の閾値（信頼度、確率、スコアカットオフ）の選択を伴います。これらの基準によって、自動化されたアクションが実行されるタイミングと人間によるレビューが必要なタイミングが決まります。閾値は、リスク許容度、費用便益分析、および利害関係者の好みに基づいて設定されます。ガバナンス・プロセスでは、閾値の設定を文書化し、サブグループ全体でテストし、状況の変化に応じて定期的に再調整して、最適なトレードオフを実現する必要があります。
Real-World Example
医療診断用AIは、信頼度が90％を超えた場合にのみ生検推奨のスキャンにフラグを立て、誤報を減らします。70～ 90% の信頼度のスキャンは、放射線科医に送られて審査を受けます。四半期ごとにキャリブレーションを行うことで、これらの閾値で目標未診断率を 1% 未満、過剰診断率を 5% 未満に維持することが保証されます。
.svg)
