Zuletzt aktualisiert am:
Eine Sicherheits- und Governance-Kontrolle, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent als Einzige ausführen darf.
Im Gegensatz zu einer Blacklist (die bekannte schädliche Aktionen blockiert) nutzt eine Whitelist einen Allow-List-Ansatz, bei dem standardmäßig alles verboten ist. Dieser eingegrenzte Aktionsraum (Bounded Action Space) stellt sicher, dass ein Agent nur mit vorab genehmigten Systemen und innerhalb bestimmter Auswirkungsgrenzen interagieren kann (z. B. einem maximalen Dollarbetrag pro Transaktion). Dies verhindert, dass der Agent zur Laufzeit nicht autorisierte Tools entdeckt und nutzt.
Praxisbeispiel:
Ein KI-Kundenservice-Agent ist für den Zugriff auf die Retouren-Datenbank und die Erstattungs-API freigegeben, es ist ihm jedoch strengstens untersagt, auf das Lohnabrechnungssystem der Mitarbeiter oder die globale Preistabelle zuzugreifen.
