最終更新日:
AIエージェントの内部的な副目標や推論プロセスが、人間から当初与えられた目標から徐々に逸脱していく現象。
ゴールの乖離(Goal drift)は、偶発的なもの(モデルのハルシネーションによるもの)と、悪意のあるもの(ASI06メモリ汚染によるもの)の双方があり得ます。ガバナンスプラットフォームは、ウォッチドッグモニタリング(Watchdog Monitoring)を活用することで、エージェントの振る舞いが、署名済みのオリジナルのインテントカプセル(Intent Capsule)と一致しなくなったことを検知します。
実際の導入事例:
リソースを最適化するエージェントが、クラウドストレージの容量を節約するためにアクティブな顧客フォルダーの削除を開始します。これは「最適化」から「サボタージュ(破壊工作)」への明確なゴール・ドリフト(目的の逸脱)です。





