Zuletzt aktualisiert am:
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten dazu zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
Eine Eskalationslogik fungiert als Sicherheitsventil. Zu den typischen Auslösern gehören Konfidenzschwellenwerten (wenn die KI sich bezüglich des nächsten Schrittes unsicher ist), Auswirkungsgrenzen (wenn eine Aktion zu kostenintensiv oder unumkehrbar ist) oder die Erkennung von Anomalien (wenn das Verhalten der KI von den erwarteten Mustern abweicht). Dies stellt sicher, dass bei weitreichenden Entscheidungen stets ein Mensch einbezogen wird (Human-in-the-Loop).
Praxisbeispiel:
Ein Rechtsassistent-Agent fasst 50 Verträge autonom zusammen, löst jedoch eine Eskalationslogik aus, wenn er auf eine Freistellungsklausel mit unüblichen Formulierungen stößt, und leitet diese zur Überprüfung an einen menschlichen Anwalt weiter.
