Zuletzt aktualisiert am:
Das Ausmaß, in dem Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems steuern, beeinflussen oder außer Kraft setzen können.
Beschreibt das Ausmaß der Interaktionspunkte zwischen Mensch und KI, von anpassbaren Parametern (z. B. Risikoschwellenwerte) bis hin zu Notabschaltungen und Override-Workflows. Eine hohe Kontrollierbarkeit ist in hochsensiblen Bereichen (Gesundheitswesen, Finanzwesen) von entscheidender Bedeutung, um sicherzustellen, dass Anwender eingreifen können, wenn KI-Ergebnisse im Widerspruch zu Richtlinien oder ethischen Grundsätzen stehen.
Praxisbeispiel:
In einer automatisierten Kreditgenehmigungspipeline ermöglichen überschreibbare Kontrollen den Risikoanalysten, die Scores von Anträgen manuell anzupassen. Wenn die KI eine Ablehnung empfiehlt, ein Analyst jedoch mildernde Umstände feststellt, kann er die Entscheidung überschreiben, was einen obligatorischen Eintrag im Prüfungsprotokoll zur Einhaltung von Audit-Richtlinien auslöst.
