Menschliche Aufsicht
Mechanismen, die es bestimmten Personen ermöglichen, Entscheidungen des KI-Systems zu überwachen, einzugreifen oder sie außer Kraft zu setzen, um die Einhaltung ethischer und gesetzlicher Vorschriften sicherzustellen.
Definition
Formalisierte Kontrollen — Genehmigungstore, Override-Tasten, Audit-Dashboards — ermöglichen es Experten, KI-Ausgaben in Echtzeit zu pausieren oder zu korrigieren. Die Rahmenbedingungen für die menschliche Aufsicht definieren Rollen, Entscheidungskriterien und SLAs für Interventionen. Die Unternehmensführung verfolgt Aufsichtsmaßnahmen (wann, von wem, Ergebnisse), um die Schwellenwerte für das Vertrauen in die KI zu überprüfen und das zukünftige Autonomieniveau zu verbessern.
Real-World Example
Im Finanzhandel schlägt ein KI-gesteuerter Algorithmus große Positionen vor. Das System erfordert eine manuelle Genehmigung durch einen Risikobeauftragten für Geschäfte im Wert von über 5 Mio. USD. Die Plattform protokolliert jede Entscheidung, die außer Kraft gesetzt wurde, und erfasst dabei die Beweggründe der Mitarbeiter. So wird sowohl die Geschwindigkeit als auch die menschliche Kontrolle über wichtige Operationen gewährleistet.
.svg)
