最終更新日:
精度と信頼性を向上させるため、AIプロセス（トレーニング、検証、意思決定レビュー）に人間の判断を組み込むこと。
人間がAIのワークフローを拡張するハイブリッドなアプローチであり、ラベルの提供、信頼度の低い予測の検証、あるいはモデルの決定のオーバーライドなどを行います。HITL（Human-in-the-Loop）は、例外的なケース、高リスクな状況、またはこれまでにない状況に対して、専門家による確実な対応を保証します。効果的なガバナンスを構築することで、人間の介入が必要となるしきい値を設定し、人間とAIのパフォーマンス比較を追跡し、人間のバイアスによって自動化によるメリットが損なわれるのを防ぐことができます。
実際の導入事例：
ある医療診断AIは、モデルの確信度が80%未満のスキャン画像を、放射線医によるレビュー（HITL：Human-in-the-Loop）に回すようフラグを立てます。6か月間で、確信度の低い症例の95%が人間によって正しく分類され、それらのラベルはモデルの再学習にフィードバックされました。これにより、確信度のキャリブレーション（調整）が向上し、全体の誤診率が低下しました。
