In welchem Maße Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems lenken, beeinflussen oder übersteuern können.
Beschreibt den Grad der Interaktionspunkte zwischen Mensch und KI – von anpassbaren Parametern (z. B. Risikoschwellen) bis hin zu Notabschaltungen und Übersteuerungs-Workflows. Eine hohe Steuerbarkeit ist in Bereichen mit hohen Risiken (Gesundheitswesen, Finanzwesen) von entscheidender Bedeutung, da sie sicherstellt, dass Verantwortliche eingreifen können, wenn KI-Ausgaben im Widerspruch zu Richtlinien oder ethischen Grundsätzen stehen.
In einer automatisierten Kreditgenehmigungs-Pipeline ermöglichen überschreibbare Kontrollmechanismen den Risikoverantwortlichen, Antragsbewertungen manuell anzupassen. Wenn die KI eine Ablehnung empfiehlt, ein Sachbearbeiter jedoch mildernde Umstände feststellt, kann er die Entscheidung übersteuern, wodurch zu Prüfzwecken ein verpflichtender Protokolleintrag zur Überprüfung ausgelöst wird.
