この2年間で、エージェント型AIは研究室の興味対象から、本番環境での実用段階へと移行しました。2025年後半までに、フォーチュン500企業の80％が日常業務で少なくとも1つのAIエージェントを運用するようになっています。[1] これらのシステムは、2021年から2023年にかけてEU AI法 （以下「本法」）の草案が作成された当時に議論を支配していたAIとは、本質的に異なります。チャットボットがテキストを生成し、分類器がラベルを割り当てるのに対し、エージェント型システムは、計画、ツールの選択、アクションの実行、結果の観察、繰り返しのプロセスなど、人間の介入を最小限に抑えながら、しばしば数十ものステップにわたり自律的に目標を追求します。

現在、本法はこの新しい時代に適合していないとする論評が増えています。Jones氏は、管轄区域を越えてサードパーティ製ツールを自律的に呼び出すエージェントに対し、現在のコンプライアンス枠組みは「構造的に不十分」であると主張し、「エージェント型ツールの主権（Agentic Tool Sovereignty）」という概念を提唱しました。[2] ACMのヨーロッパ技術政策委員会（Europe Technology Policy Committee）は「根本的な再考」を求めており、本法がAIを「予測可能で、境界が限定され、人間の指揮下にある」伝統的なソフトウェアのように動作することを前提としていると指摘しています。[3] Secure Societyは、現在策定中の技術基準については「エージェントによるリスクに十分対処できない可能性が高い」と結論づけています。[4]

これらの批判は深刻であり、そこで指摘されている運用上の困難は現実のものです。しかし、これらの論評は、本法の適合性を1つの問いとして扱いがちですが、実際には2つの問いとして理解するのが適切です。本稿では、2層の分析を提示します。定義の階層、すなわちエージェント型AIが本法の規制対象に含まれるかどうかという点において、本法は驚くほど優れた回復力を示しています。もう一方の運用の階層、すなわち義務、評価手順、監視要件においては、批判派の主張に説得力があります。

この区別は、一見するよりも重要です。もし定義の階層が破綻していれば、本法を全面的に改定する必要が生じます。しかし定義の階層が維持されているため、課題は「運用上の適応」へと絞られ、本法自体が備える二次的な手段を活用することで、十分に解決の糸口が見出せます。

定義の階層：第3条第1項とその適用力

第3条第1項では、「AIシステム」を以下のように定義しています。

「さまざまなレベルの自律性で動作するように設計され、導入後に適応性を示すことがあり、かつ、明示的または黙示的な目標のために、受信した入力から、予測、コンテンツ、推奨、または決定などの、物理的または仮想的な環境に影響を与える出力を生成する方法を推論する機械ベースのシステム。」

この定義は、適用範囲と抽象化についての慎重な選択を反映し、多くの交渉を重ねて作成されたものです。[6] これがどのようにエージェント型AIに適用されるか、各要素を順に見ていきましょう。

「さまざまなレベルの自律性」

この表現は、常に人間の入力を必要とするシステムから、高度な独立性をもって動作するシステムにいたるまでの「スペクトラム（連続体）」を明示的に想定しています。前文12は、自律性とは「人間の関与からの行動にある程度の独立性があり、人間の介入なしに動作する能力」を指すと詳述しています。[7] 各ステージで人間が介入することなく、ツールの呼び出しを計画し、実行し、結果を評価し、アプローチを調整するシステムは、この定義における高度な自律性をもって動作していることは明らかです。

「明示的または黙示的な目標」

チャットボットは、「この質問に答える」「この画像を分類する」といった明示的な目標に向けて動作します。一方、エージェント型システムは、黙示的、未確定、または創発的な目標に向けて動作することがよくあります。「この職務に最適な候補者を見つける」という指示は、エージェントが目標を分解し、ツールを選択し、自ら判断を下すことを要求します。定義が「明示的な目標」にとどまっていた場合、創発的な副目標を追求するエージェント型システムは範囲外になっていた可能性があります。「黙示的」という語が含まれていることで、その議論は未然に防がれています。

出力カテゴリとしての「決定」

定義に示されている4つの出力カテゴリ（予測、コンテンツ、推奨、決定）のうち、最後の「決定」が鍵となります。「決定」とは、結果を伴う選択肢の中から自律的に選択を行うという、能動的なアクションを意味します。エージェントが呼び出すべきツールを決定したり、リソースの配分方法を決定したりする場合、明らかにこの意味での「決定」を行っていると言えます。

「物理的または仮想的な環境に影響を与える」

この最後の句は、最も大きな意味を持つかもしれません。これは従来の入力・出力のパラダイムを超え、その出力が世界の意思決定や状態を変化させるシステムを明示的に想定しています。電子メールの送信、コードの実行、データベースの変更、またはアクチュエータの制御を行うエージェントは、その環境に影響を及ぼしています。ドラフト作成者は、単なる出力生成ではなく「環境への影響」にまで視野を広げることで、行動実行型システムと本質的に互換性のある定義を構築しました。

総合すると、この定義はAIシステムがどのように構築されているかではなく、システムが何を行うか（推論、決定、影響）およびどのように動作するか（自律的、適応的、目標に向けて）を表しています。このような機能的かつ技術中立的なアプローチが、本法に強い回復力を与えているのです。機械学習やニューラルネットワークといった特定の技術を中心に構築された定義であれば、技術の進化とともに風化していたでしょう。（GDPR第22条のように）「自動化された意思決定」のみに焦点を当てた定義であったならば、エージェントを特徴づける自律性、複数ステップの実行、および環境形成といった性質を見落としていたはずです。

この柔軟性は意図されたものであったのでしょうか、それとも交渉による抽象化の過程でもたらされた幸運な副産物だったのでしょうか。おそらくその両方でしょう。欧州委員会による当初の、より技術的に具体的な提案からの方向転換は、柔軟性を求める加盟国、広範な適用を求める欧州議会、そしてハイレベルなテンプレートを提供したOECDの枠組みなど、多方向からのプレッシャーを反映したものでした。[8] この結果は、先見の明による設計というよりも、妥協が生み出した論理の賜物かもしれません。しかしその起源が何であれ、パラダイムシフトを乗り越えて機能する規制上の定義を構築できたことは、決して小さな成果ではありません。

運用の階層：枠組みが限界を露呈する場所

定義の階層が維持されている一方で、運用の階層には深刻な課題が存在します。本法の義務規定は、より静的で境界の明確なシステムを想定して設計されたものであり、特に以下の3つの問題が際立っています。

静的な適合性評価と動的なシステムとの乖離

本法のハイリスクAIに関する体系は、EUの製品安全法から着想を得た適合性評価に依存しています。これは、提供者が市場に投入する前に、自社のシステムが該当する要件を遵守しているかを自己評価するモデルです。[9] この仕組みは、評価時点でシステムの機能が概ね把握できる場合にはうまく機能します。しかし、エージェント型AIはこれを根底から覆します。実行時に動的に更新されるレジストリからツールを選択するエージェントは、評価時点では存在すらしていなかった機能を呼び出すことになります。第3条第23項における「重大な変更」（最初の適合性評価において予見または計画されていない変更）[10] という概念は、この問題を浮き彫りにします。エージェントがサードパーティ製サービスを自律的に呼び出すことは「重大な変更」に該当するのでしょうか。もし該当する場合、新しいツールを呼び出すたびに再評価が必要になり、これは明らかに現実的ではありません。もし該当しないとすれば、システムの機能変化に伴う現実のリスク変更が完全に見過ごされることになります。

提供者と展開者の二者択一と断片化されたバリューチェーン

本法は、役割に関する義務を提供者（Provider）と展開者（Deployer）の2つに大別しています。[11] しかし、エージェントにおけるバリューチェーンはこの二者択一には収まりません。そこには、基盤モデルの提供者、エージェントフレームワークの提供者、システムを運用する展開者、そして多くの場合、相手の関与を知らないまま実行時にAPI経由で呼び出されるツール提供者など、少なくとも4つの主体が存在します。第25条第4項は、提供者とサードパーティプロバイダー間の書面合意を求めていますが、[12] これは事前に関係性が構築されていることを前提としており、エージェントがその場で動的にツールを選択する場合には適用できません。Jones氏が詳細に示しているように、責任はチェーン全体で細分化され、エージェントの決定やデータフロー、全体的なコンプライアンス状況を完全に把握できる主体が存在しないという、まさに「関与者が多すぎる問題（many hands problem）」が発生します。[13]

人間の監視におけるパラドックス

第14条は、「リスク、自律性のレベル、および仕様の文脈に見合った」監視措置を求めています。[14] しかし、エージェント型AIの本質は、人間の介入を最小限に抑えた自律的な運用にあります。1秒間に数十回ものマイクロな決定を下すエージェントの動作速度は、意味のある人間の介入が追いつかない領域に達しています。本法は、自律性スペクトラムの極限における「比例に応じた」監視の具体的なあり方について指針を示しておらず、[15] 2025年後半に確定したGPAI（法的適合AI）実施規範でもこの点は完全には解決されていません。

運用上の課題はこれらだけではありません。第72条第2項に基づく市後監視（ポストマーケットモニタリング）も、範囲、アクセス、および時間軸の面で同様の困難に直面していますが、[16] これらはすべて、予測可能で制約されたシステム向けに構築された運用の枠組みが、そのどちらでもない新技術に対峙しているという本質的な摩擦を物語っています。

二次的手段：現実的な前進への道筋

運用上の課題は厳然として存在しますが、すべてが等しく解決不可能というわけではありません。本法の二次的手段は、不完全ながらも適応への現実的な道筋を提供しています。

整合規格

CENおよびCENELECは、2025年6月に改正された委任に基づき、合同技術委員会21（Joint Technical Committee 21）を通じて規格の開発を進めており、両組織は2025年10月に異例の加速化措置を採用しました。[17] これは最も有望な手段と言えます。第14条の「比例性（Proportionality）」に関する表現は、あらゆる局面で人が介入することを一律に義務付けるのではなく、高度に自律的なシステムにふさわしい適切な監視（行動スペースの制限、構造化されたチェックポイント、監査証跡、介入メカニズムなど）のあり方を具現化するための、開かれた招待状のような役割を果たしています。

委任による法律事項（委任法案）

第7条は、議会や理事会の異議がない限り、委任法案を通じて欧州委員会が附属書III（ハイリスクユースケースのリスト）を修正する権限を認めています。[18] これにより、法改正を行うことなく、新たなリスクが出現した際に特定のカテゴリのエージェント型システムをハイリスクの枠組みに組み込むことができます。また、第6条第3項は、逆の方向での柔軟な調整を可能にしています。[19]

欧州委員会のガイダンスと実施規範

欧州委員会はすでにAIシステムの定義に関する解釈指針を発行しており、[20] 今後のガイダンスにより、提供者と展開者の義務フレームワークをどのようにエージェントバリューチェーンへマッピングするか、また実行時のツール呼び出しがどの時点で「重大な変更」にあたるかといった論点に対処できます。第56条に基づく実施規範も、GPAIモデルの層におけるエージェント固有のリスク（制御機能、ツール使用のログ、行動スペースの制約など）に取り組むための別の手段を提供し、バリューチェーンの自然な急所（チョークポイント）でのリスク対策を標的にできます。[21]

2025年11月に提案された欧州委員会の「AIデジタルオムニバス」は、この適応プロセスが実際に機能していることを示す初期の証拠です。[22] このオムニバス法案は、整合規格が実際に利用可能になるまでハイリスク義務の適用を延期すること、生成AIの透明性要件のロードマップを延長すること、中小企業の適合プロセスを簡素化すること、そしてGPAIベースのシステムの執行をAIオフィス（AI Office）レベルに集中させることを提案しています。これらは第3条第1項の定義に手を加えることなく行われており、定義の階層を維持したまま運用の階層を調整しています。しかし同時に、このオムニバス法案がエージェント型AIに明確に言及していないことは、上述の二次的手段が果たすべき役割が依然として多く残されていることを示唆しています。

将来的には、法改正を必要とすると思われる2つの構造的な特徴が存在します。1つは、提供者と展開者の二者択一関係について、自らがエージェント型システムに組み込まれていることすら認識していない可能性のある「実行時ツール提供者」をカバーするよう、二次的手段のみで拡大することは困難であり、新たな法制度の基盤を要する点です。もう1つは、適合性評価を単発から継続的な評価へと本格的に移行させることであり、これも規格やガイドラインの範囲を超えています。これらは本法が進化を迫られる領域であり、第112条を含む見直しメカニズムがそのロードマップを提供しています。[23]

「しなる」が「折れない」フレームワーク

世間では、EU AI法をエージェント登場以前の時代の遺物とみなす見方が支配的です。しかし本稿では、そうした主張は極めて不完全なものであると論じてきました。

定義の階層において、本法は極めて高い回復力を示しています。第3条第1項における自律性のレベル、黙示的な目標、意思決定、および環境への影響といった文脈は、無理なくエージェント型AIを捕らえる規制の境界線を引いています。一方で、運用の階層において批判派が指摘するギャップは現実のものです。しかし、これらのギャップは、適応性を織り込んで慎重に構築されたフレームワークの枠内に収まっています。「デジタルオムニバス」の提案ですでに示されているように、EUは定義の土台を守りながら、運用の階層を微調整する柔軟性を持っています。全体としての二次的手段は、本格的な法改正を行わずともエージェントに関する課題に十分に対処することが可能です。

私たちは二つの誘惑を避けるべきです。(i) 積極的な適応を行わずにフレームワークが機能し続けると思い込む「油断」、そして、(ii) フレームワークをゼロから解体しなければならないと結論づける「パニック」です。本法はもともとエージェント型AIを対象に設計されたわけではありません。しかし、それを取り込めるだけの十分な頑健さをもって設計されており、この違いは今後の欧州におけるAIガバナンスにとって決定的に重要です。フレームワークはしなりますが、折れることはありません。

現在エージェント型システムを導入している組織にとって、実務上の示唆は極めて明白です。コンプライアンスは、法律が追いつくまで先送りできるような将来の課題ではありません。定義の境界線はすでにこれらのシステムをカバーしており、運用上の義務の到来も間近に迫っています。現在の課題は、設計段階からエージェントのワークフローにガバナンスを組み込むことです。導入されるAIシステムを目録化し、変化するリスク分類にマッピングし、二次的手段が今後ますます求めるようになる継続的な監視体制を維持する必要があります。Enzaiでは、この課題を克服できるよう、プラットフォームを通じて企業の皆様を支援しています。詳細については、こちらからお問い合わせください。

Enzaiは、組織が抽象的なポリシーから具体的な運用監視へと移行できるよう、特別に設計された業界屈指のエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法コンプライアンスの確実な履行に必要な専門のインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバル規格を遵守しつつ、自信を持ってAIの導入を拡張することを支援します。

参照文献

[1] Microsoft Security Blog, "80% of Fortune 500 use active AI Agents: Observability, governance, and security shape the new frontier" (February 2026), available at https://www.microsoft.com/en-us/security/blog/2026/02/10/80-of-fortune-500-use-active-ai-agents-observability-governance-and-security-shape-the-new-frontier/.

[2] L. Jones, "Agentic Tool Sovereignty," European Law Blog (2025), available at https://www.europeanlawblog.eu/pub/dq249o3c.

[3] ACM Europe Technology Policy Committee, "Systemic Risks Associated with Agentic AI: A Policy Brief" (October 2025), available at https://www.acm.org/binaries/content/assets/public-policy/europe-tpc/systemic_risks_agentic_ai_policy-brief_final.pdf.

[4] M.L. Miller Nguyen, "How AI Agents Are Governed Under the EU AI Act," The Future Society (June 2025), available at https://thefuturesociety.org/aiagentsintheeu/.

[6] 本定義は、2023年に採択されたOECDのAIシステム定義に基づきつつも派生したものです。欧州委員会によるAIシステム定義ガイドライン（2025年2月）を参照してください。

[7] AI法、前文12。

[8] 欧州委員会の当初提案 COM(2021) 206 final、およびその後のトライローグ交渉（2022年-2023年）における理事会・欧州議会の見解を参照してください。

[9] 適合性評価の枠組みは、決定 No 768/2008/EC を含む、製品安全に関するEUの「新立法枠組み（New Legislative Framework）」を踏襲しています。

[10] AI法 第3条第23項。

[11] AI法 第16条〜第27条（提供者の義務）および第26条（展開者の義務）。

[12] AI法 第25条第4項。

[13] Jones (前掲注2)。AI法前文88は、法的拘束力のある義務を創設することなく、バリューチェーン内の協力を単に「推奨」するにとどまっています。

[14] AI法 第14条第1項、第14条第4項(a)および(d)。

[15] M. Fink, "Human Oversight under Article 14 of the EU AI Act," SSRN (2025), available at https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5147196.

[16] AI法 第72条第2項。エージェントの運用プロセスと執行モデルにおける時間軸の不整合を議論している Jones (前掲注2) を参照。

[17] 欧州委員会 標準化要請 M/593（2025年6月 M/613に修正）、CEN-CENELEC, "Update on CEN and CENELEC's Decision to Accelerate the Development of Standards for Artificial Intelligence" (October 2025)。

[18] AI法 第7条および第97条。この委任は2024年8月1日から5年間有効であり、3ヶ月の異議申し立て期間が設けられています。

[19] AI法 第6条第3項。

[20] Orrick, "EU Commission Clarifies Definition of AI Systems" (April 2025) を参照。また、欧州議会議員 Lagodinsky 氏は2025年9月に欧州委員会に対し、エージェント規制の明確化を公式に求めており、さらなるガイダンスへの政治的意欲が示されています。Jones (前掲注2) を参照。

[21] AI法 第56条。

[22] 欧州委員会, Proposal for a Regulation amending Regulations (EU) 2024/1689 and (EU) 2024/1689 (Digital Omnibus on AI), 19 November 2025. また、欧州議会シンクタンクの「Digital Omnibus on AI: EU Legislation in Progress」（2026年2月）を参照。

[23] AI法 第112条。