Last updated:
Ein Satz vordefinierter Regeln und Auslöser, die einen KI-Agenten zwingen, den autonomen Betrieb einzustellen und die Kontrolle wieder an einen menschlichen Bediener zu übergeben.
Die Eskalationslogik fungiert als Sicherheitsventil. Zu den typischen Auslösern gehören Konfidenzschwellen (wenn die KI sich bezüglich des nächsten Schritts unsicher ist), Auswirkungsgrenzen (wenn eine Aktion zu kostenintensiv oder unumkehrbar ist) oder die Anomalieerkennung (wenn das Verhalten der KI von den erwarteten Mustern abweicht). Dies stellt sicher, dass bei weitreichenden Entscheidungen stets eine menschliche Instanz (Human-in-the-Loop) einbezogen wird.
Real world example:
Ein KI-Assistent für Rechtsfragen fasst 50 Verträge autonom zusammen, löst jedoch eine Eskalationslogik aus, wenn er auf eine Freistellungsklausel mit unüblicher Formulierung stößt, und leitet diese zur Prüfung an einen Anwalt weiter.
