Ein regulatorischer und betrieblicher Standard, der sicherstellt, dass Menschen die Fähigkeit behalten, AI-Entscheidungsprozesse zu überwachen, einzugreifen und zu übersteuern.
Im Kontext von Agentic AI bedeutet „Kontrolle“ nicht zwangsläufig, dass ein Mensch jede einzelne Mikroentscheidung genehmigen muss, was die Geschwindigkeitsvorteile der Automatisierung zunichtemachen würde. Stattdessen bezieht sie sich auf das Design des Systems: die Festlegung klarer operativer Grenzen, die Sicherstellung, dass die KI in Bezug auf ihren Status als Maschine transparent ist, sowie die Implementierung eines funktionalen „Kill-Switches“, der es einem menschlichen Operator ermöglicht, das System sofort anzuhalten, falls es von seinen beabsichtigten Zielen oder Sicherheitsparametern abweicht.
Ein Logistikunternehmen verwendet einen autonomen KI-Planer, um Lieferfahrzeuge in Echtzeit zu steuern. Eine „sinnvolle menschliche Kontrolle“ wird nicht dadurch aufrechterhalten, dass eine Disponentin oder ein Disponent jede einzelne Abbiegung freigibt, sondern durch ein Dashboard, das es ermöglicht, „No-Go-Zonen“ festzulegen und im Falle einer Unwetterwarnung oder einer Systemfehlfunktion unverzüglich alle Fahrzeuge zum Depot zurückzurufen (den Kill-Switch).
