Last updated:
AIプロセス（トレーニング、検証、意思決定のレビュー）に人間の判断を組み込むことで、正確性と説明責任を向上させます。
人間がAIワークフローを補完するハイブリッドアプローチです。具体的には、ラベル付け、低信頼度予測の検証、モデル判断の上書きなどを行います。HITL（Human-in-the-Loop）により、エッジケース、高リスク、または新規の状況に対して、専門家による注意深い対応を確実に実施できます。効果的なガバナンスでは、人間による介入のしきい値を設定し、人間とAIのパフォーマンス比較を追跡するとともに、人間のバイアスが自動化による成果を損なうことを防止します。
Real world example:
医療診断AIは、モデル信頼度が80%未満のスキャンを、放射線科医によるレビュー（HITL）の対象としてフラグ付けします。6か月間で、低信頼度ケースの95%は人間によって正しく分類され、これらのラベルはモデルの再学習に還元されることで、信頼度キャリブレーションの改善と全体的なエラー率の低減を実現します。
