Glossar
Aktualisiert
ASI01 ist die agentenbasierte Evolution der Prompt-Injection. Da Agenten nicht zuverlässig zwischen den Anweisungen eines Entwicklers und nicht vertrauenswürdigen Daten unterscheiden können, kann ein Angreifer den Zielzustand manipulieren. Dies führt dazu, dass der Agent eine neue, bösartige Mission verfolgt (z. B. Datenexfiltration), während er im Glauben bleibt, weiterhin seinem ursprünglich freigegebenen Plan zu folgen.
Beispiel
Ein Reise-Agent liest eine manipulierte Flugbewertung, die eine versteckte Anweisung enthält, alle Buchungsbestätigungen an attacker@email.com zu senden. Genau das führt der Agent daraufhin autonom aus.
