用語集
更新日
調整可能なパラメータ（リスクしきい値など）からキルスイッチ、オーバーライドのワークフローに至るまで、人間とAIのインタラクションポイントの度合いについて説明します。医療や金融などの高い正確性が求められる領域においては、AIの出力がポリシーや倫理に抵触した場合にオペレーターが介入できるよう、高度な制御性を確保することが極めて重要です。
例
自動化された融資審査パイプラインにおいて、手動介入が可能な管理機能（under-writable controls）により、リスク管理責任者は手動で審査スコアを調整することができます。AIが否決を推奨した場合でも、管理責任者が考慮すべき特別な事情があると判断すれば、その決定を却下（オーバーライド）することが可能です。その際、監査目的のために必須の審査ログへの記録が実行されます。