用語集
更新日
ASI01は、プロンプトインジェクションがエージェント型へと進化したものです。エージェントは開発者の指示と信頼できないデータを確実に区別することができないため、攻撃者によって目標状態(ゴールステート)が乗っ取られる危険性があります。その結果、エージェントは本来の承認された計画に従っていると誤認したまま、新たな悪意のあるミッション(データの不正流出など)を実行することになります。
例
旅行予約エージェントが、すべての予約確認をattacker@email.comへ送信するという隠された指示を含む、悪意のあるフライトレビューを読み込みます。エージェントはその後、その指示を自律的に実行してしまいます。
