Glossar
Aktualisiert
In einer mehrstufigen Argumentationskette kann es bei einem Agenten zu einem sogenannten Goal Drift (Zielabweichung) kommen. Die Intent-Validierung fungiert als sekundäre Prüfsumme, die jeden Zwischenschritt im Abgleich mit der übergeordneten Mission bewertet. Wenn der Plan des Agenten eine Aktion vorsieht, die nicht mit dem ursprünglichen Ziel übereinstimmt (z. B. der Versuch, auf Gehaltsdaten zuzugreifen, während nach einem Flug gesucht wird), wird diese Aktion blockiert.
Beispiel
Ein Einkaufsmitarbeiter plant den Kauf von 50 Laptops. Vor dem Aufruf der Einkaufs-API bestätigt die Intent-Validierungsebene, dass der Kauf von Laptops der ursprünglichen menschlichen Anweisung zur Auffrischung der IT-Hardware entspricht.