Glossar
Aktualisiert
Im Kontext der agentischen KI (Agentic AI) bedeutet „Kontrolle“ nicht zwangsläufig, dass ein Mensch jede einzelne Mikroentscheidung genehmigen muss, was die Geschwindigkeitsvorteile der Automatisierung zunichtemachen würde. Vielmehr bezieht es sich auf die Konzeption des Systems: die Festlegung klarer operativer Grenzen, die Gewährleistung von Transparenz darüber, dass es sich bei der KI um eine Maschine handelt, und die Implementierung eines funktionsfähigen Not-Ausschalters („Kill-Switch“), der es einem menschlichen Bediener ermöglicht, das System sofort anzuhalten, falls es von seinen beabsichtigten Zielen oder Sicherheitsparametern abweicht.
Beispiel
Ein Logistikunternehmen nutzt ein autonomes KI-Planungssystem, um Lieferfahrzeuge in Echtzeit zu routen. Die „maßgebliche menschliche Kontrolle“ wird nicht dadurch gewahrt, dass ein Disponent jede einzelne Abbiegung genehmigt, sondern über ein Dashboard, mit dem der Disponent „Sperrzonen“ definieren und im Falle einer Unwetterwarnung oder einer Systemstörung alle Fahrzeuge sofort zum Depot zurückrufen kann (der Notausschalter).