Last updated:
攻撃者がエージェントの目標や意思決定経路を操作し、その自律的な動作を意図しない結果へ誘導する脆弱性。
ASI01は、プロンプトインジェクションのエージェント型進化です。エージェントは、開発者の指示と信頼できないデータを確実に区別できないため、攻撃者は目標状態を乗っ取ることができます。その結果、エージェントは本来承認された計画に従っていると認識したまま、データの持ち出しなどの新たな悪意あるミッションを遂行してしまいます。
Real world example:
ある旅行代理店が、隠された指示を含む改ざんされたフライトレビューを読み、その後、すべての予約確認を attacker@email.com 宛てに自律的に送信します。
