最終更新日:
人間がAIシステムの意思決定や行動をどの程度指示、影響、または介入（オーバーライド）できるかを示す度合い。
調整可能なパラメータ（リスクしきい値など）からキルスイッチ、オーバーライドのワークフローに至るまで、人間とAIのインタラクションポイントの度合いについて説明します。医療や金融などの高い正確性が求められる領域においては、AIの出力がポリシーや倫理に抵触した場合にオペレーターが介入できるよう、高度な制御性を確保することが極めて重要です。
実際の導入事例：
自動化された融資審査パイプラインにおいて、手動介入が可能な管理機能（under-writable controls）により、リスク管理責任者は手動で審査スコアを調整することができます。AIが否決を推奨した場合でも、管理責任者が考慮すべき特別な事情があると判断すれば、その決定を却下（オーバーライド）することが可能です。その際、監査目的のために必須の審査ログへの記録が実行されます。
