ブログ
•
14分で読めます
シャドーAIは、すでにすべての大企業の中に存在しています。現在も、組織のどこかで従業員が機密契約書をChatGPTに貼り付けたり、プロダクトマネージャーが顧客データをAI要約ツールに入力したりしています。また、財務アナリストがIT部門が承認も、トレーニングも、存在すら把握もしていないCopilotプラグインを使用しています。これは決して仮定の話ではありません。Salesforceによる2024年の調査では、職場での生成AIユーザーの半数以上が、雇用主が承認していないツールを使用していることが明らかになりました [1]。承認されていない使用という性質上、測定が困難であることを考えると、実際の数値はかなり高いとする見積もりもあります。
従業員がIT、セキュリティ、コンプライアンスチームの目の届かないところでAIツールを採用するこの現象は、その前身となった問題から名前を借りて「シャドーAI」と呼ばれるようになりました。しかし、このラベルは聞き慣れたシャドーITの概念を想起させるものの、それがもたらすリスクは本質的に異なり、規制上の利害関係はより高く、ガバナンスを正しく機能させるための猶予は急速に狭まっています。
実務におけるシャドーAIの実態
シャドーAIのガバナンスにおける最初の課題は、それがどれほど普及し、多様化しているかを認識することです。最も目に見えやすい形は、ChatGPT、Google Gemini、AnthropicのClaude、Perplexity、そして何十もの小規模なツールといった、消費者向けAIサービスの直接利用です。従業員は個人のメールアドレスで登録し、無料枠を利用して、数分以内に業務データの処理を開始します。調達プロセスは発生せず、セキュリティ審査も行われません。
しかし、直接的な使用は氷山の一角にすぎません。AI機能は、組織がすでに費用を支払っているツールの中に組み込まれています。Notion、Canva、Grammarly、Slack、Zoom、Microsoft 365、Google Workspaceはすべて、自動またはシングルクリックで有効になるAI機能を搭載しています。マーケティングチームのメンバーがCanvaのAI画像生成ツールを使用したり、営業担当者がZoomの通話録音で「AI要約」をクリックしたりするとき、彼らは企業のデータを使用してAIモデルを呼び出していますが、これがAIの使用に該当すること自体を認識していないことがよくあります。
3つ目のレイヤーは、ブラウザの拡張機能やプラグインです。Chromeウェブストアなどのマーケットプレイスには、執筆支援、メールの下書き、データ抽出、コード生成のための、AIを搭載した何千もの拡張機能が公開されています。これらの拡張機能は、ページコンテンツを読み取り、フォームデータを傍受し、外部サーバーに情報を送信することができます。ほとんどの組織は、従業員がどのような拡張機能をインストールしているかを把握していません。
その累積的な結果として、組織のガバナンス、リスク、コンプライアンス部門が、把握も、評価も、制御もできない何十、何百ものAIシステムが稼働することになります。
シャドーAIが単なる「名前を変えたシャドーIT」ではない理由
セキュリティチームが長年管理してきたシャドーIT問題のサブカテゴリーとしてシャドーAIを扱いたくなるかもしれません。結局のところ、従業員がガバナンスの追いつかないスピードでテクノロジーを採用するというパターンは同様です。しかし、リスクプロファイルはいくつかの重要な点で大きく異なります。
データの永続性とモデルのトレーニング
従業員が未承認のファイル共有サービスにドキュメントをアップロードする場合、データリスクは「封じ込め(そのファイルに誰がアクセスできるか、削除できるか)」にとどまります。しかし、多くのAIサービスでは、リスクはさらに広がります。プロバイダーの利用規約や従業員が使用している具体的なプランによっては、入力データがモデルのトレーニングやファインチューニングに使用される可能性があります [2]。データがトレーニングパイプラインに入ると、それを取り戻す方法はありません。情報はモデルのパラメータ知識の一部となり、何十億ものウェイトに拡散されます。従来のデータ漏洩防止(DLP)のアプローチは、データを特定して削除できることを前提としていますが、AIトレーニングの取り込みにおいては、その前提が通用しません。
アウトプットリスク
シャドーITは通常、データを保存、移動、または表示するツールに関連しています。一方で、AIツールは新しいコンテンツを生成し、そのコンテンツが誤っている可能性があります。従業員が未承認のAIツールを使用して規制当局への提出書類を起草したり、法的契約書を要約したり、財務予測を生成したりすると、ハルシネーション(もっともらしい嘘)を含むアウトプットが正式なビジネス上の意思決定に反映されてしまう可能性があります。組織は、利用されていることすら知らなかったツールによって作成された、AI生成物であることを認識していなかったアウトプットに対して責任を負うことになります。
バイアスと差別のリスク
AIシステムは、保護された特性に基づいて差別的なアウトプットを生成することがあります。人事チームが履歴書のスクリーニングや職務記述書の下書きに未承認のAIツールを使用している場合、組織は監査証跡のないまま雇用決定にバイアスを持ち込んでいる可能性があります。ツールの使用を誰かが許可したかどうかにかかわらず、法的責任は組織に帰属します。
導入スピードの速さ
従来のシャドーITは、ソフトウェアのダウンロードやアカウント作成のペースで普及しました。これに対し、シャドーAIはブラウザのタブを開くペースで普及します。多くのAIツールは、インストールも、アカウント作成も、支払いも必要ありません。従業員は、興味本位から60秒未満で機密データの処理を開始することができます。
シャドーAIは単にシャドーIT問題を拡大するだけではありません。独自のガバナンス対応を必要とする、質的に異なるカテゴリーのリスクをもたらします。
可視性を求める規制上の理由
ある程度の管理されていないテクノロジーリスクを許容している組織であっても、現在の規制がより高いレベルのAIの可視性を求めていることに気づき始めています。
2024年から段階的に適用が開始されたEU AI Actは、AIシステムの提供者(プロバイダー)と導入者(デプロイヤー)の両方に義務を課しています [3]。提供者はシステムをリスクレベルによって分類し、高リスクシステムについては第9条から第15条への準拠を確保しなければなりません。高リスクAIシステムの導入者は、提供者の指示に従ったシステムの使用、人間による監視の割り当て、ログの保存、インシデントの報告など、第26条に基づく独自の義務を負います。また、低リスクシステムの導入者であっても、第50条に基づく透明性義務を負います。これらの義務は、組織が把握していないシステムに対しては一切果たすことができません。
AIマネジメントシステムの国際規格であるISO/IEC 42001では、AIインベントリの作成が基本要件となっています [4]。組織は、特定、評価、文書化を行っていないAIシステムを運用しながら、同規格への適合を主張することはできません。
米国では、NIST AIリスクマネジメントフレームワーク(AI RMF)においても、リスク管理の前提条件としてAIシステムを「マップ(位置づけ)」する必要性が同様に強調されています [5]。大統領令や、金融サービス、ヘルスケア、政府調達などの分野の規制当局によるセクター別ガイダンスも、「組織はどのようなAIを使用しているかを知る必要がある」という同じ期待へと収束しています。
規制の論理は単純明快です。発見なくしてリスク分類は無意味です。目に見えないシステムに対してコンプライアンス義務を適用することはできません。自社のAI使用状況のインベントリを提示できない組織は、単にガバナンスが効いていないだけでなく、ガバナンス不可能な状態にあります。Enzaiのようなプラットフォームは、まさにこのギャップを埋めるために存在しており、現在の規制が要求する継続的な発見および分類機能を提供します。
未知の領域を「発見」する
シャドーAIにガバナンスが必要であることを受け入れるのは、比較的容易なステップです。より困難なのは、それを「見つけ出す」ことです。単一の技術だけで完全な可視性を得ることはできないため、効果的な発見には、複数の補完的な手法が必要となります。
ネットワークトラフィックとDNS分析
AIサービスは、特徴的なネットワークトラフィックパターンを生成します。DNSクエリとHTTP/HTTPSトラフィックを監視し、既知のAIサービスのドメイン(api.openai.com、generativelanguage.googleapis.com、api.anthropic.comなど)への接続を確認することで、従業員がどのサービスにアクセスしているかの基本情報を得ることができます。この手法は消費者向けAIを直接利用する場合には効果的ですが、承認済みのSaaSツールに組み込まれたAIの場合、API呼び出しがサーバー側で行われる可能性があるため、効果は低くなります。
SSOと認証ログ分析
多くのAIサービスはシングルサインオン(SSO)をサポートしています。従業員が個人のアカウントを使用している場合でも、アイデンティティプロバイダーの認証ログから、AIサービスに対するOAuth同意の付与を特定できます。Google WorkspaceやMicrosoft Entra IDを通じて付与されたOAuthアプリケーションの権限を確認することで、従業員が企業アカウントに接続したAIツールが明らかになることがよくあります。
調達と経費の監査
シャドーAIの使用の一部は、金銭的な痕跡を残します。従業員や部門の予算管理者がAIツールのサブスクリプションを経費精算したり、コーポレートカードで有料プランを購入したり、AIサービスの請求書を提出したりすることがあります。経費報告書や調達記録をターゲットを絞って確認し、既知のAIベンダー名を具体的に検索することで、正式な調達プロセスを回避した有料利用を特定できます。
従業員による申告プログラム
技術的な発見手法には常に盲点が存在します。従業員がペナルティを恐れることなく、使用しているAIツールを報告できるように促す自主的な申告プログラムは、監視では届かない隙間を埋めることができます。このプログラムの設計は極めて重要です。従業員が処分を恐れるようであれば、申告率は極めて低くなります。この取り組みを「取り締まり」ではなく「現状把握のための調査」として位置づけることで、より良い結果が得られます。
ブラウザ拡張機能の監査
管理対象デバイスやエンドポイント管理プラットフォームを使用している組織の場合、インストールされているブラウザ拡張機能を監査することで、AI搭載プラグインの可視性を得ることができます。多くのエンドポイント検出・対応(EDR)ツールは、拡張機能をリストアップできます。インストールされている拡張機能を、既知のAI搭載ツールのデータベースと照合することで、明らかにAI関連と分かるドメインへのネットワークトラフィックを生成しないシャドー利用を特定できます。
APIトラフィックとデータフロー分析
より高度な組織では、APIゲートウェイやデータ漏洩防止(DLP)ツールを導入して、AIサービスの使用と一致するパターン(外部エンドポイントに送信される大量のテキストペイロード、生成されたコンテンツを示すマーカーを含む応答、大手AIプロバイダーに関連するIP範囲へのトラフィックなど)を検出できます。このアプローチには投資が必要ですが、よりシンプルな手法では見落とされる使用を捉えることができます。
どのような発見プログラムも、単一の手法だけに依存すべきではありません。最も効果的なアプローチは、複数の技術を重ね合わせ、発見を一回限りの監査ではなく、継続的なプロセスとして扱うことです。EnzaiのようなAIガバナンスプラットフォームは、この多層的な発見を自動化し、ネットワーク、アイデンティティ、調達、エンドポイントデータにわたるシグナルを関連付けて、常に最新のインベントリを維持することができます。
禁止しないシャドーAIガバナンス
発見は必要条件ですが、それだけでは不十分です。その次に生じる疑問は、見つかったものをどう処理するかですが、ここで多くの組織が戦略的な誤りを犯します。未承認のAI使用の規模に直面した際、本能的に「禁止」に走ってしまい、ドメインをブロックし、アクセス権を剥奪し、全面的な禁止令を出してしまいます。このアプローチが失敗する理由は3つあります。
第一に、禁止は使用をさらに地下へと追いやるだけです。AIツールが本当に有用であると感じている従業員は、個人のデバイス、モバイルホットスポット、自宅のネットワークなど、回避策を見つけ出します。その結果、使用が減るのではなく、可視性が低下することになります。
第二に、全面的な禁止は競争上のコストを伴います。従業員によるAIツールの使用を妨げる組織は、競合他社が獲得している生産性の向上を放棄することになります。McKinseyは2023年に、生成AIが世界の多様な業界全体の企業利益に年間2兆6,000億ドルから4兆4,000億ドルの貢献をもたらす可能性があると予測しました [6]。その価値を放棄すること自体がリスクです。
第三に、禁止することは、組織がAIを「能力」ではなく「脅威」として見ているというシグナルを従業員に送ることになり、長期的かつ責任あるAI導入に必要な企業文化の土壌を損なうことになります。
代替案は、AIの使用をブロックするのではなく、適切な経路へと導く「構造化されたガバナンス」です。
アムネスティ(免除)と現状把握
効果的なスタート地点は、期間限定のアムネスティ(免除)期間を設けることです。この期間中、懲戒処分を行わないことを明示的に保証した上で、従業員が現在使用しているすべてのAIツールを申告するよう促します。これにより、技術的な発見だけでは達成できない包括的なベースラインが確立されます。このアムネスティは、「免除期間の終了後に未申告の使用が発覚した場合は、ポリシー違反として扱われる」という明確なコミュニケーションとセットにする必要があります。
許容される利用規定
「承認か禁止か」という二者択一の区別ではなく、先進的な組織は、AIの使用カテゴリーを定義する利用許容方針(AUP)を策定しています。これには、どのデータ分類をAIツールで処理できるか、どのようなタイプのアウトプットを使用前に人間がレビューする必要があるか、また、AI生成コンテンツを正式な成果物に使用する際にどのような開示義務が適用されるか、などが定義されます。
承認済みツールリストと「舗装された道路(Paved Road)」
プラットフォームエンジニアリングから借用した「舗装された道路(Paved Road)」という概念は、シャドーAIガバナンスにおいて特に効果的です。障壁を築く代わりに、組織は代替案よりも従いやすい、明るく整備された道を構築します。これは、セキュリティやコンプライアンスの要件を満たし、適切なデータ処理設定が事前構成され、企業のアイデンティティと統合され、トレーニングやドキュメントによってサポートされた、承認済みのAIツールを提供することを意味します。承認された選択肢が真に優れていれば、未承認の代替案を探す動機は減少します。
サンドボックス環境
承認リストにまだ載っていない新しいAIツールや機能の実験を行うために、組織は従業員が合成データや非機密データを使用してツールをテストできるサンドボックス環境を提供できます。これにより、データリスクを封じ込めながら、探索によるイノベーションのメリットを維持することができます。
継続的なレビューとフィードバック
固定化されたガバナンス枠組みは、やがて障害物となります。承認済みツールリストを定期的にレビュー・更新し、従業員のフィードバックを取り入れ、新しいツールを評価するサイクルを確立することで、AI開発のスピードに合わせたガバナンスフレームワークの進化を確実にします。
ゴールは、AI使用におけるすべてのリスクを排除することではなく、管理された経路を明らかに優れたものにすることで、管理されていない使用を不要にすることです。
持続可能な発見プロセスの構築
一回限りの発見への取り組みは、スナップショット(その一瞬の切り取り)にすぎません。シャドーAIは継続的な現象です。毎週新しいツールが立ち上げられ、既存のツールにAI機能が追加され、従業員は役割を変えて新しいワークフローを採用します。持続可能な発見プロセスは、継続的であり、より広範な組織プロセスに組み込まれている必要があります。
調達との統合
AIの発見は、調達ワークフローに組み込まれるべきです。すべての新しいSaaSツールの評価において、組み込まれているAI機能、AI機能のデータ処理、およびモデルトレーニングポリシーの評価を含める必要があります。ベンダーが販売資料でAI機能を常に前面に押し出しているとは限らないため、調達チームには適切な質問を行うためのトレーニングとチェックリストが必要です。
オンボーディングおよびロールチェンジとの統合
新しい従業員は、以前の雇用主からAIの利用習慣を持ち込みます。オンボーディングプロセスには、AI使用の申告ステップと、組織のAIガバナンスフレームワークおよび承認済みツールに関する紹介を含める必要があります。同様に、従業員が役割を変更し、新しいデータ分類へのアクセス権を取得した場合は、そのAIツールの承認状況をレビューする必要があります。
コンプライアンスだけでなく、チェンジマネジメント(変革管理)を
持続可能なシャドーAIガバナンスには、単なるポリシーの執行ではなく、企業文化の変革が必要です。従業員は、AIガバナンスが官僚的なオーバーヘッドとしてではなく、組織、顧客、そして自分自身を守るために存在している理由を理解する必要があります。トレーニングプログラムは、実用的でシナリオベースであり、進化するツールの状況を反映して定期的に更新されるべきです。
メトリクスとレポーティング
測定されるものこそが管理されます。組織は、時間の経過に伴うシャドーAIの発見率、新しく発見されたツールがガバナンス下に置かれるまでの時間、承認されたAIツールに対する従業員の満足度、およびポリシーの例外申請数を追跡する必要があります。これらの指標は、ガバナンスが導入ペースに遅れをとっている場合や、承認されたツールが従業員のニーズを満たしていない場合に、早期の警告を提供します。
エグゼクティブの責任
シャドーAIガバナンスは、IT部門や情報セキュリティ部門の中だけで完結させることはできません。最高AI責任者(CAIO)または同等の役割からのエグゼクティブスポンサーシップが必要であり、AIインベントリの完全性とガバナンスのカバー範囲を維持するための明確な説明責任を負う必要があります。リスクを真剣に捉えている組織の間では、取締役会レベルでのAIガバナンス体制に関する報告が標準的な実務になりつつあります。
継続的、統合的、測定可能、そしてエグゼクティブがスポンサーとなっている発見プロセスであれば、一回限りの監査で見落とされるものを捉え、次の四半期のAI環境がもたらす変化に適応することができます。
実務的な影響
シャドーAIは、自然に解決する問題ではありません。対処せずに放置すれば、ツールの増加、さらなるデータの露出、規制リスクの増大、審査されていないAIアウトプットに基づく意思決定など、問題は深刻化します。これをうまく管理できる組織とは、発見を一回限りのプロジェクトではなく「継続的な運用機能」として扱い、禁止ではなく「有効化(イネーブルメント)」を通じて統治し、両方を維持するための文化的および手続き的なインフラに投資する組織です。
実務的な進むべき道は明確です。多層的な発見を通じて可視性を確立します。従業員が従いたくなるようなガバナンスを構築します。AIの監視を、調達、オンボーディング、チェンジマネジメントのサイクルに組み込みます。進捗を測定し、リーダーシップに責任を持たせます。
場当たり的な対応から、構造化されたシャドーAIガバナンスへと移行する準備ができている組織に向けて、Enzaiは、継続的な発見とインベントリ管理からポリシー管理、コンプライアンス報告に至るまで、承認されていないAIの使用をコントロール下に置くためのプラットフォームを提供します。実務における仕組みをご確認いただくために、ぜひデモをご予約ください。
Enzaiは、組織が抽象的なポリシーから具体的な運用監視へと移行できるよう支援するために特別に構築された、最先端のエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI Actへの準拠を確実にするために必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業が自信を持ってAIの導入を拡大できるようにすると同時に、ISO 42001やNISTなどのグローバル標準との整合性を維持します。
参考文献
[1] Salesforce, "The Promises and Pitfalls of AI at Work," Salesforce Research, 2024.
[2] OpenAI, "How your data is used to improve model performance," OpenAI Help Centre, updated 2025.
[3] European Parliament and Council, Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (EU AI Act), 2024.
[4] International Organization for Standardization, ISO/IEC 42001:2023 Information technology - Artificial intelligence - Management system, 2023.
[5] National Institute of Standards and Technology, "AI Risk Management Framework (AI RMF 1.0)," NIST AI 100-1, January 2023.
[6] McKinsey Global Institute, "The economic potential of generative AI: The next productivity frontier," McKinsey & Company, June 2023.
2023年からISO 27001認証を取得、NQAによる年次監査
GDPRに沿ったデータ取り扱い
顧客データは複数リージョンのAWSでホスト
独自のAIモデルをプライベート接続で利用可能
チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。



