最終更新日:
攻撃者がエージェントの目的や意思決定プロセスを操作し、その自律的動作を意図しない結果へと偏向させる脆弱性。
ASI01は、プロンプトインジェクションがエージェント型へと進化したものです。エージェントは開発者の指示と信頼できないデータを確実に区別することができないため、攻撃者によって目標状態（ゴールステート）が乗っ取られる危険性があります。その結果、エージェントは本来の承認された計画に従っていると誤認したまま、新たな悪意のあるミッション（データの不正流出など）を実行することになります。
実際の導入事例：
旅行代理店の担当者が、attacker@email.comへすべての予約確認を送信するという隠された指示が含まれる、悪意のあるフライトレビューを読み込みます。その後、システムはその指示に従って自動的に送信を実行してしまいます。
