Zuletzt aktualisiert am:
Eine Governance-Anforderung, nach der ein KI-Agent genau anzeigen muss, welche Auswirkungen eine irreversible Aktion hat, bevor eine Person die endgültige Freigabe erteilt.
Dies ist eine primäre Abhilfemaßnahme für ASI09 (Ausnutzung von Vertrauen). Durch die Anzeige eines Testlaufs oder Diffs (z. B. „Dadurch werden 50 Dateien gelöscht“) wird der Benutzer gezwungen, den persuasiven Chat-Kontext zu verlassen und die technische Realität der Aktion zu bewerten.
Praxisbeispiel:
Ein Finanz-Agent schlägt eine Zahlung vor; vor der Ausführung wird ein Pop-up mit der Aktionsvorschau angezeigt: 5.000 $ an Konto X-123 zahlen – wodurch ein Vertrauensmissbrauch-Betrug verhindert wird.
