Last updated:
Eine Sicherheitslücke, bei der einem KI-System im Verhältnis zu seiner beabsichtigten Funktion ein zu hohes Maß an Autonomie, zu viele Werkzeuge oder übermäßig privilegierte Zugriffsrechte gewährt werden.
Übermäßige Handlungsbefugnis, auch genannt "Excessive Agency" (LLM06:2025), ist der primäre Wegbereiter für ASI02 (Werkzeugmissbrauch). Sie tritt auf, wenn Entwickler Agenten vorsorglich weitreichenden Zugriff auf APIs oder Datenbanken gewähren. Dies ermöglicht es einem kompromittierten Agenten, zerstörerische Aktionen auszuführen – wie das Löschen von Produktionsdaten –, die keineswegs Teil seiner ursprünglichen Aufgabe waren.
Real world example:
Ein interner HR-Chatbot erhält Schreibzugriff auf die gesamte Mitarbeiterdatenbank; durch eine Prompt-Injection bringt ein Angreifer den Bot dazu, die Datensätze der Geschäftsleitung zu löschen.
