制御性
人間がAIシステムの意思決定や行動をどの程度指示、影響、または無効にできるか。
Definition
調整可能なパラメーター（リスク閾値など）からキルスイッチやオーバーライドワークフローまで、人間とAIのインタラクションポイントの度合いについて説明します。ハイステークスの領域 (医療、金融) では、AIのアウトプットが政策や倫理と矛盾する場合にオペレーターが介入できるようにするために、高い制御性が不可欠です。
Real-World Example
自動ローン承認パイプラインでは、アンダーライティング可能なコントロールにより、リスク担当者は申請スコアを手動で調整できます。AI が拒否を勧めても、ある役員が酌量すべき事情があると判断した場合は、その決定を無効にして、監査目的で必須の審査ログエントリをトリガーできます。
.svg)
