Last updated:
ガバナンスチームの認識や承認を得ることなく組織内に導入され、業務システムや外部の関係者に影響を及ぼす行動を実行できる、未承認の自律型AIエージェント。
Shadow agents は、shadow AI のエージェント型の進化形です。shadow AI は通常、従業員が承認されていない生成ツールを使用する状況を指しますが、shadow agents は、個々の開発者、事業部門のチーム、または組み込み AI 機能として紛れ込んだ形で導入される、自律的なシステムです。これらは、メールの送信、データベースの照会、API の呼び出しといった実世界のアクションを実行します。エージェントのアクションは取り消し不可能である場合があり、複数のシステムにまたがって影響が累積し得るため、そのリスクは shadow AI よりも質的に高くなります。
Real world example:
カスタマーサポートチームは、公開LLMプラットフォーム上にエージェントを構築し、一般的な問い合わせに自動応答させています。このエージェントにはサポートシステムへのAPIアクセスが付与され、ガバナンスの監査証跡やエスカレーションロジックが整備されていないにもかかわらず、顧客への返金を自律的に開始してしまいます。
