Last updated:
サイレントアップデートによってシステムの動作が変化することを防ぐため、AIシステムを検証済みの特定バージョンの基盤モデルに固定する手法。
基盤モデルのプロバイダーは、モデルの推論方法や指示の追従方法に微妙な変化をもたらす可能性のあるポイントアップデートを頻繁にリリースします。エージェント型ワークフローでは、モデルロジックのわずかな変更によって推論チェーンが崩れたり、ガードレールが回避されたりすることがあります。バージョン固定により、システムの安定性を維持するとともに、いかなるモデルのアップグレードも新たなテストを必要とする大幅な変更として扱われます。
Real world example:
ある銀行は、自律型不正検知ツールを Model-v1.2 に固定し、リスクチームが新バージョンで偽陽性率が上昇しないことを確認できるまで、提供元による Model-v1.3 への自動更新を拒否します。




