Zuletzt aktualisiert am:
Mechanismen, die es autorisierten Personen ermöglichen, Entscheidungen von KI-Systemen zu überwachen, einzugreifen oder diese außer Kraft zu setzen, um die Einhaltung ethischer und rechtlicher Standards zu gewährleisten.
Formalisierte Kontrollen – Genehmigungsschranken, Override-Buttons, Audit-Dashboards – die es Experten ermöglichen, KI-Ergebnisse in Echtzeit zu pausieren oder zu korrigieren. Frameworks für die menschliche Aufsicht definieren Rollen, Entscheidungskriterien und SLAs für Interventionen. Governance-Strukturen erfassen diese Aufsichtsinterventionen (wann, durch wen, Ergebnisse), um Schwellenwerte für das Vertrauen in die KI kontinuierlich anzupassen und zukünftige Autonomiegrade zu optimieren.
Praxisbeispiel:
Im Finanzhandel schlägt ein KI-gesteuerter Algorithmus große Positionen vor. Das System erfordert eine manuelle Genehmigung durch einen Risikobeauftragten für Transaktionen, die 5 Millionen US-Dollar überschreiten. Die Plattform protokolliert jede Freigabeentscheidung und erfasst die Begründung des Beauftragten, wodurch sowohl Schnelligkeit als auch die menschliche Kontrolle über hochwertige Operationen gewährleistet werden.
