Steuerbarkeit
Das Ausmaß, in dem Menschen die Entscheidungen und Verhaltensweisen eines KI-Systems steuern, beeinflussen oder außer Kraft setzen können.
Definition
Beschreibt den Grad der Interaktionspunkte zwischen Mensch und KI, von einstellbaren Parametern (z. B. Risikoschwellen) bis hin zu Kill-Switches und Override-Workflows. In Bereichen, in denen viel auf dem Spiel steht (Gesundheitswesen, Finanzen), ist eine hohe Steuerbarkeit von entscheidender Bedeutung. Sie stellt sicher, dass die Betreiber eingreifen können, wenn KI-Ergebnisse im Widerspruch zu Richtlinien oder ethischen Grundsätzen stehen.
Real-World Example
In einer automatisierten Kreditgenehmigungspipeline ermöglichen versicherungspflichtige Kontrollen es den Risikobeauftragten, die Bewertungsergebnisse von Anträgen manuell anzupassen. Wenn die KI eine Ablehnung empfiehlt, ein Beauftragter jedoch mildernde Umstände feststellt, kann er die Entscheidung außer Kraft setzen und zu Prüfungszwecken einen obligatorischen Eintrag im Prüfprotokoll auslösen.
.svg)
