Last updated:
Der Prozess der Verifizierung, dass die geplanten Teilschritte eines KI-Agenten konsistent mit dem ursprünglich vom Menschen vorgegebenen Ziel übereinstimmen.
In einer mehrstufigen Argumentationskette kann bei einem Agenten ein sogenannter „Goal Drift“ (Zielabweichung) auftreten. Die Intent-Validierung fungiert als sekundäre Prüfsumme, die jeden Zwischenschritt im Hinblick auf die übergeordnete Mission bewertet. Wenn der Plan des Agenten eine Aktion vorsieht, die nicht mit dem ursprünglichen Ziel übereinstimmt (z. B. der Versuch, auf Gehaltsdaten zuzugreifen, während nach einem Flug gesucht wird), wird diese Aktion blockiert.
Real world example:
Ein Einkäufer plant den Kauf von 50 Laptops. Bevor die Einkaufs-API aufgerufen wird, verifiziert die Intent-Validation-Schicht, dass der Kauf von Laptops der ursprünglichen menschlichen Anweisung zur Aufstockung der IT-Hardware entspricht.
