最終更新日:
AIシステムに対して、その本来の機能に反して過剰な自律性、過剰なツール、または過剰な権限アクセスが付与されることによって発生する脆弱性。
過剰な自律性（LLM06:2025）は、ASI02（ツールの不正利用）を引き起こす最大の要因です。これは、開発者が将来の必要性に備えてエージェントにAPIやデータベースへの広範なアクセス権限を付与してしまうことで発生します。その結果、乗っ取られたエージェントが、本番データの削除など、本来のミッションには含まれていなかった破壊的な操作を実行可能になってしまいます。
実際の導入事例：
社内の人事用チャットボットに従業員データベース全体への書き込み権限が与えられている場合、攻撃者がプロンプトインジェクションを利用して、チャットボットに役員チームのレコードを削除させることができます。
