Last updated:
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion haben wird, bevor eine menschliche Freigabe erfolgt.
Dies ist eine primäre Abhilfemaßnahme für ASI09 (Vertrauensausnutzung). Durch die Anzeige eines Probelaufs oder eines Diffs (z. B. „Dadurch werden 50 Dateien gelöscht“) wird der Benutzer gezwungen, den rein suggestiven Chat-Kontext zu verlassen und die technischen Gegebenheiten der Aktion zu bewerten.
Real world example:
Ein Finanz-Agent schlägt eine Zahlung vor; vor der Ausführung wird ein Pop-up-Fenster mit der Aktionsvorschau angezeigt: 5.000 $ an das Konto X-123 zahlen – wodurch ein Missbrauch des Vertrauensverhältnisses erfolgreich verhindert wird.
