Last updated:
Eine Sicherheits- und Governance-Kontrollfunktion, die festlegt, welche Tools, APIs und Aktionen ein KI-Agent ausschließlich ausführen darf.
Im Gegensatz zu einer Blacklist (die bekannte schädliche Aktionen blockiert) nutzt eine Whitelist einen Allow-List-Ansatz, bei dem standardmäßig alles untersagt ist. Dieser begrenzte Aktionsraum (Bounded Action Space) stellt sicher, dass ein Agent nur mit vorab genehmigten Systemen und innerhalb spezifischer Auswirkungsgrenzen (z. B. einem maximalen Geldbetrag pro Transaktion) interagieren kann. Dadurch wird verhindert, dass der Agent zur Laufzeit nicht autorisierte Tools entdeckt und nutzt.
Real world example:
Ein KI-Kundenservice-Agent ist für den Zugriff auf die Retouren-Datenbank und die Erstattungs-API freigegeben, es ist ihm jedoch strengstens untersagt, auf das Gehaltsabrechnungssystem der Mitarbeiter oder die globale Preistabelle zuzugreifen.
