最終更新日:
ガバナンスチームが把握しないまま組織内にデプロイされた、未承認の自律型AIエージェント。これらは業務システムや外部の関係者に影響を与えるアクションを実行する機能を備えています。
シャドーエージェントとは、シャドーAIが自律的エージェントへと進化したものです。従来のシャドーAIは通常、従業員が承認されていない生成ツールを使用することを指しますが、シャドーエージェントは、個々の開発者や事業部門チームによって構築された、あるいは組み込みAI機能を通じて導入された、メールの送信、データベースへのクエリ実行、APIの呼び出しといった実世界のアクションを自律的に実行するシステムを指します。エージェントによるアクションは元に戻すことができず、システム全体に連鎖的な影響を及ぼす可能性があるため、そのリスクはシャドーAIよりも本質的に高くなります。
実際の導入事例：
あるカスタマーサポートチームが、一般的なチケットに自動返信するため、パブリックLLMプラットフォーム上にエージェントを構築します。このエージェントにはサポートシステムへのAPIアクセス権限が付与され、ガバナンス監査証跡やエスカレーションロジックが整備されていない状態で、自律的な顧客への返金対応を開始してしまいます。
