Last updated:
Une vulnérabilité par laquelle un attaquant manipule les objectifs ou les processus décisionnels d'un agent afin de réorienter son comportement autonome vers des résultats non souhaités.
L'ASI01 représente l'évolution agentique de l'injection de requêtes. Dans la mesure où les agents ne peuvent distinguer de manière fiable les instructions d'un développeur des données non approuvées, un attaquant est en mesure de détourner l'objectif initial. Par conséquent, l'agent poursuit une nouvelle mission malveillante (par exemple, l'exfiltration de données) tout en étant persuadé de suivre son plan d'origine autorisé.
Real world example:
Un agent de voyages lit un avis de vol infecté contenant une instruction cachée pour envoyer toutes les confirmations de réservation à attacker@email.com, ce qu'il fait ensuite de manière autonome.
