Zuletzt aktualisiert am:
Eine Schwachstelle, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion zu viel Autonomie, zu viele Werkzeuge oder überprivilegierte Zugriffsrechte gewährt werden.
Excessive Agency (LLM06:2025) ist der primäre Wegbereiter für ASI02 (Tool-Missbrauch). Es tritt auf, wenn Entwickler Agenten einen umfassenden Zugriff auf APIs oder Datenbanken gewähren, nur um für alle Fälle gerüstet zu sein. Dies ermöglicht es einem kompromittierten Agenten, destruktive Aktionen auszuführen – wie das Löschen von Produktionsdaten –, die niemals Teil seiner ursprünglichen Aufgabe waren.
Praxisbeispiel:
Ein interner HR-Chatbot erhält Schreibzugriff auf die gesamte Mitarbeiterdatenbank; ein Angreifer nutzt eine Prompt-Injection, um den Bot dazu zu bringen, die Datensätze der Geschäftsführung zu löschen.
