Glossar
Aktualisiert
Eine Eskalationslogik fungiert als Sicherheitsventil. Zu den typischen Auslösern gehören Konfidenzschwellenwerten (wenn die KI sich bezüglich des nächsten Schrittes unsicher ist), Auswirkungsgrenzen (wenn eine Aktion zu kostenintensiv oder unumkehrbar ist) oder die Erkennung von Anomalien (wenn das Verhalten der KI von den erwarteten Mustern abweicht). Dies stellt sicher, dass bei weitreichenden Entscheidungen stets ein Mensch einbezogen wird (Human-in-the-Loop).
Beispiel
Ein Rechtsassistent-Agent fasst 50 Verträge autonom zusammen, löst jedoch eine Eskalationslogik aus, wenn er auf eine Freistellungsklausel mit unüblichen Formulierungen stößt, und leitet diese zur Überprüfung an einen menschlichen Anwalt weiter.