ブログ
•
14分で読めます
この2年間で、エージェント型AIは研究段階の好奇心の対象から、本番環境での実用段階へと移行しました。2025年後半までに、Fortune 500企業の80%が日常業務で少なくとも1つのAIエージェントを稼働させています。[1] これらのシステムは、2021年から2023年にかけてEU AI Act(以下「本法」)が起草された際に議論の中心であったAIとは、本質的に異なります。チャットボットがテキストを生成し、分類器がラベルを割り当てるのに対し、エージェント型システムは目標を追求します。すなわち、計画、ツールの選択、アクションの実行、結果の観察、そして反復(多くの場合は人間の介入を最小限に抑え、数十ものステップに及ぶ)を自律的に行います。
こうした時代に本法は適していないと主張する解説が増えています。Jones氏は、エージェントが複数の司法管轄区にまたがってサードパーティのツールを自律的に呼び出す場合、従来のコンプライアンスの枠組みは「構造的に不十分」であると主張し、「エージェント型ツールの主権(Agentic Tool Sovereignty)」という概念を提唱しました。[2] ACMの欧州技術政策委員会は「抜本的な再考」を求めており、本法がAIを「予測可能、限定的、かつ人間の指揮下にある」従来のソフトウェアのように動作することを前提としていると指摘しています。[3] The Future Societyは、現在策定中の技術基準では「エージェントによるリスクに十分対処できない可能性が高い」と結論づけています。[4]
これらの批判は極めて重要であり、指摘されている運用の難しさは現実のものです。しかし、これらの批判は本法の適合性を1つの問いとして扱いがちですが、実際には2つの異なる問題として捉えるべきです。本記事では、2つのレイヤーからなる分析を提示します。定義のレイヤー、すなわちエージェント型AIが本法の規制対象に含まれるかどうかという点において、本法は極めて高い耐性を有していることがわかります。一方で、運用のレイヤー、すなわち義務、評価手順、監視要件においては、批判派の主張に説得力があります。
この区別は、一見するよりもはるかに重要です。もし定義のレイヤーが破綻していれば、本法は全面的な改正を余儀なくされるでしょう。しかし、定義が維持されているため、課題は「運用上の適応」へと絞られます。そして、本法独自の二次的手段は、私たちが活用できる多くの材料を提供しています。
定義のレイヤー:第3条第1項とその堅牢性
第3条第1項では、「AIシステム」を以下のように定義しています。
「様々なレベルの自律性で動作するように設計され、展開後に適応性を示す可能性があり、明示的または暗黙的な目標のために、受信した入力から、予測、コンテンツ、推奨、または意思決定といった、物理的または仮想的な環境に影響を与える出力を生成する方法を推論する、機械ベースのシステム」
この定義は、対象範囲と抽象化についての慎重な選択を反映し、度重なる交渉の結果として生まれました。[6] これがどのようにエージェント型AIに適用されるかを理解するために、各要素を順に見ていくことが役立ちます。
「様々なレベルの自律性」
この表現は、常に人間の入力を必要とするシステムから、高度な独立性を持って動作するシステムまで、幅広いスペクトラム(連続体)を明示的に想定しています。前文12では、自律性とは「人間の関与からのある程度の行動の独立性、および人間の介入なしに動作する能力」を指すと詳述されています。[7] 各段階で人間が介入することなく、ツールの呼び出しを計画し、実行し、結果を評価し、アプローチを調整するシステムは、この定義における高度な自律性を持って動作していることは明らかです。
「明示的または暗黙的な目標」
チャットボットは、「この質問に答える」「この画像を分類する」といった明示的な目標に向けて動作します。一方、エージェント型システムは、暗黙的、未特定、または創発的な目標に向けて動作することがよくあります。「この職務に最適な候補者を見つける」という指示を受けたエージェントは、目標を分解し、ツールを選択し、自ら判断を下す必要があります。もし定義が「明示的な目標」のみにとどまっていた場合、創発的なサブゴールを追求するエージェント型システムは規制対象外となっていた可能性があります。「暗黙的」という文言が含まれていることで、その抜け穴は塞がれています。
出力カテゴリとしての「意思決定」
定義にある4つの出力カテゴリ(予測、コンテンツ、推奨、意思決定)のうち、最後の「意思決定」が鍵となります。「意思決定」とは、何らかの能動的な行為、すなわち結果を伴う選択肢からの選定を意味します。エージェントがどのツールを呼び出すか、あるいはリソースをどのように配分するかを決定するとき、明らかにこの意味での意思決定を行っています。
「物理的または仮想的な環境に影響を与える」
この最後の節が、最も重大な意味を持つかもしれません。これは従来の入力・出力のパラダイムを超え、出力によって世界の状況を変化させるシステムを明示的に想定しています。メールを送信する、コードを実行する、データベースを修正する、あるいはアクチュエータを制御するエージェントは、その環境に影響を与えています。単なる出力の生成ではなく「環境への影響」に着目したことで、起草者はアクションを実行するシステムと本質的に適合する定義を構築しました。
これらを総合すると、この定義はAIシステムが「どのように構築されているか」ではなく、「何をするか(推論、決定、影響)」および「どのように動作するか(自律的、適応的、目標に向けて)」を記述しています。この機能的かつ技術中立的なアプローチこそが、その堅牢性の源です。機械学習やニューラルネットワークといった特定の技術を中心に構築された定義であれば、技術的な一時点に縛られていたでしょう。「自動化された意思決定」(GDPR第22条など)に焦点を当てた定義では、エージェントを特徴づける自律的、多段階、かつ環境を形成するという性質を見落としていたはずです。
この堅牢性は意図されたものだったのでしょうか。それとも、交渉による抽象化がもたらした幸運な副産物だったのでしょうか。おそらくその両方でしょう。委員会による、より技術的に特定された当初の提案からの移行は、柔軟性を求める加盟国、広範な適用を求める欧州議会、そしてハイレベルなテンプレートを提供したOECDの枠組みなど、多方向からの圧力を反映したものでした。[8] この結果は、先見の明のある設計というよりも、妥協のロジックによる部分が大きいかもしれません。しかし、その起源が何であれ、パラダイムシフトを乗り越えて機能する規制上の定義が維持されていることは、決して小さな成果ではありません。
運用のレイヤー:枠組みが限界に達する部分
定義のレイヤーが維持されている一方で、運用のレイヤーには真の困難が存在します。本法の義務は、より静的で限定的なシステムを想定して設計されており、主に3つの問題が浮き彫りになっています。
静的な適合性評価と動的なシステムの相克
本法のハイリスクAIに関するアーキテクチャは、EUの製品安全法から取り入れられた適合性評価に基づいています。これは、プロバイダーがシステムを市場に投入する前に、適用される要件に対して自ら評価を行うモデルです。[9] このモデルは、評価時点でシステムの能力が概ね把握できる場合にはうまく機能します。しかし、エージェント型AIはこれを根底から覆します。実行時に動的に更新されるレジストリからツールを選択するエージェントは、評価時点では存在しなかった機能を呼び出すことになります。第3条第23項における「重大な変更」(最初の適合性評価において予見または計画されていなかった変更)[10]という概念は、この問題を浮き彫りにします。エージェントがサードパーティの新しいサービスを自律的に呼び出すことは、「重大な変更」に該当するのでしょうか。もし該当する場合、新しいツールを呼び出すたびに再評価が必要となり、これは明らかに不合理です。該当しない場合、システムのリスクプロファイルの重大な変化がすべて見過ごされることになります。
「プロバイダーとデプロイヤー」の二元論と断片化されたバリューチェーン
本法は、義務をプロバイダーとデプロイヤーという2つの役割に分割しています。[11] エージェントのバリューチェーンはこの区分に適合しません。それには少なくとも、基盤モデルプロバイダー、エージェントフレームワークプロバイダー、デプロイヤー、そして実行時にAPIが呼び出される(多くの場合、認識なしに)ツールプロバイダーの4つの主体が関与します。第25条第4項は、プロバイダーとサードパーティサプライヤー間の書面による合意を要求していますが、[12] これは事前に確立された関係を前提としています。エージェントがその場でツールを選択する場合には、このような関係は存在し得ません。Jones氏が詳細に記録しているように、責任はチェーン全体で断片化され、特定の時点でエージェントの意思決定、データフロー、またはコンプライアンスの状況を完全に把握できる主体は誰も存在しません。これこそが、同氏が適切に表現した「多くの手が関与することによる責任の曖昧化(many hands problem)」です。[13]
「人間の監視」というパラドックス
第14条は、「リスク、自律性のレベル、および使用の文脈に見合った」監視措置を求めています。[14] しかし、エージェント型AIの本来の目的は、人間の関与を最小限に抑えた自律的な動作にあります。1秒間に数十回もの微細な意思決定を行うエージェントは、人間による実質的な介入が不可能な速度で動作します。本法は、高度な自律性のスペクトラムにおいて「比例的な」監視が具体的にどのようなものであるかについての指針を示しておらず、[15] 2025年後半に最終決定された汎用AI行動規範でも、この点は完全には解決されていません。
これらは運用上の課題の一部に過ぎません(第72条第2項に基づく市販後モニタリングも、適用範囲、アクセス、および時間軸に関して同様の困難に直面しています[16])。しかし、これらは「予測可能で限定的なシステムのために構築された運用フレームワークが、そのどちらでもないテクノロジーに直面している」という核心的な緊張関係を示しています。
二次的手段:信頼に足る今後の進路
運用上の課題は現実のものですが、すべてが同様に解決困難というわけではありません。本法の二次的手段は、不完全ながらも、適応に向けた信頼に足る道筋を提供しています。
整合規格
CENおよびCENELECは、2025年6月に改正された委任に基づき、合同技術委員会21を通じて規格を開発しており、両組織は2025年10月に異例の加速措置を採用しました。[17] これは間違いなく最も有望な道筋です。第14条の比例性に関する表現は、あらゆる場面で人間を介在させることを要求することなく、高度に自律的なシステムにおける適切な監視(限定されたアクションスペース、構造化されたチェックポイント、監査証跡、介入メカニズムなど)がどのようなものであるかを具体的に示すための、事実上のオープンな招待状となっています。
委任権限に基づく行為(委任規則)
第7条は、欧州議会および理事会の異議申し立てがないことを条件に、委任規則を通じて、ハイリスクのユースケースリストである付属書IIIを修正する権限を欧州委員会に付与しています。[18] これにより、立法上の改正を行うことなく、新たなリスクが出現した際にエージェント型システムの特定のカテゴリをハイリスクの枠組みに組み込むことができます。また、第6条第3項は、逆の方向(対象からの除外など)への調整も可能にしています。[19]
欧州委員会のガイダンスと行動規範
欧州委員会はすでにAIシステムの定義に関する解釈指針を発行しており、[20] 今後のガイダンスでは、プロバイダーとデプロイヤーの枠組みをエージェントのバリューチェーンにどのようにマッピングするか、また、実行時のツール呼び出しがどのような場合に「重大な変更」とみなされるかに対処する可能性があります。第56条に基づく行動規範は、GPAIモデルレイヤーにおけるエージェント固有のリスク(制御機能、ツール使用ログ、アクションスペースの制限など)に対処し、バリューチェーンにおける自然なチェックポイントでのリスクをターゲットにするための、もう一つの手段を提供します。[21]
2025年11月に提案された欧州委員会の「AIデジタル・オムニバス(Digital Omnibus on AI)」は、この適応プロセスが実際に機能していることを示す初期の証拠です。[22] このオムニバスは、整合規格が実際に利用可能になるまでハイリスク義務の適用を延期すること、生成AIの透明性要件のスケジュールを延長すること、中小企業(SME)の適合性評価を簡素化すること、そしてGPAIベースのシステムの執行をAIオフィスレベルに一元化することを提案しています。これは第3条第1項の定義に触れることなく行われており、定義のレイヤーを維持したまま、運用のレイヤーが調整されています。しかし、同時に示唆的なのは、このオムニバスがエージェント型AIに明確に対処していない点であり、これは上記の二次的手段が今後果たすべき役割が依然として大きいことを示しています。
将来的には、2つの構造的な特徴について立法上の改正が必要となる可能性が高いでしょう。「プロバイダーとデプロイヤー」の二元論は、二次的手段を拡張するだけでは、自らがエージェント型システムの一部であることすら認識していない実行時のツールプロバイダーまでカバーすることはできません。これには新たな法的根拠が必要です。また、一時点での適合性評価から継続的な評価への真の移行は、規格やガイダンスだけで実現できる範囲を超えています。これらは本法が進化を求められる領域であり、第112条を含む本法独自のレビューメカニズムがそのための道筋を提供しています。[23]
柔軟に適応するフレームワーク
一般的な論説では、EU AI Actはエージェント型AI以前の時代の遺物として位置づけられがちです。本記事では、その見解には重要な欠落があると主張してきました。
定義のレイヤーにおいて、本法は極めて高い堅牢性を示しています。第3条第1項における、様々なレベルの自律性、暗黙的な目標、意思決定、および環境への影響に関する言及は、エージェント型AIを無理なく取り込める規制の枠組みを構築しています。運用のレイヤーにおいては、現実的なギャップがあるという批判派の指摘は正しいものです。しかし、これらのギャップは、適応性を考慮して意図的に構築されたフレームワークの中に存在しています。デジタル・オムニバスの提案は、定義の基礎を維持したまま運用のレイヤーを調整するというEUの姿勢をすでに示しており、本法の広範な二次的手段は、全面的な法改正を行うことなく、エージェント型AIに関する課題の大部分に対処することができます。
EUは、2つの誘惑に抗う必要があります。(i) 積極的な適応を行わなくてもフレームワークが維持されると想定する「慢心」、および (ii) フレームワークを破棄する必要があると結論づける「パニック」です。AI規則はエージェント型AIのために設計されたわけではありません。しかし、それに対応できるように十分に設計されており、この違いは欧州における今後のAIガバナンスにとって極めて重要です。このフレームワークは柔軟に機能します。破綻する必要はありません。
現在エージェント型システムを導入している組織にとって、実務上の示唆は明確です。コンプライアンスは、法律が追いつくまで先送りにしてよい未来の問題ではありません。定義の範囲はすでにこれらのシステムを捉えており、運用上の義務もまもなく適用されます。今行うべきことは、当初からエージェント型ワークフローにガバナンスを組み込むことです。すなわち、導入されているAIシステムを棚卸しし、進化するリスク分類にマッピングし、本法の二次的手段が今後ますます要求することになる継続的な監視体制を維持することです。Enzaiでは、このような課題を組織が克服できるよう支援するためにプラットフォームを構築しています。詳細については、こちらからお問い合わせください。
Enzaiは、組織が抽象的なポリシーから運用上の監視へと移行できるよう支援するために専用設計された、業界をリードする企業向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI Actへの準拠を確実にするために必要な専門的インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバル基準との整合性を維持しながら、確信を持ってAIの導入を拡大できるよう支援します。
参考文献
[1] Microsoft Security Blog, "80% of Fortune 500 use active AI Agents: Observability, governance, and security shape the new frontier" (February 2026), available at https://www.microsoft.com/en-us/security/blog/2026/02/10/80-of-fortune-500-use-active-ai-agents-observability-governance-and-security-shape-the-new-frontier/.
[2] L. Jones, "Agentic Tool Sovereignty," European Law Blog (2025), available at https://www.europeanlawblog.eu/pub/dq249o3c.
[3] ACM Europe Technology Policy Committee, "Systemic Risks Associated with Agentic AI: A Policy Brief" (October 2025), available at https://www.acm.org/binaries/content/assets/public-policy/europe-tpc/systemic_risks_agentic_ai_policy-brief_final.pdf.
[4] M.L. Miller Nguyen, "How AI Agents Are Governed Under the EU AI Act," The Future Society (June 2025), available at https://thefuturesociety.org/aiagentsintheeu/.
[5] Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), Art. 3(1).
[6] AI規則の定義は、2023年に採択されたOECDのAIシステムの定義に基づいていますが、それとは異なります。詳細については、AIシステムの定義に関する欧州委員会のガイドライン(2025年2月)を参照してください。
[7] AI Act, Recital 12.
[8] 欧州委員会の当初の提案 COM(2021) 206 final、およびその後の三者協議(トライローグ)交渉中の理事会および議会の立場(2022〜2023年)を参照してください。
[9] 適合性評価フレームワークは、決定 No 768/2008/EC を含む、製品安全に関するEUの「新法的枠組み(New Legislative Framework)」を基礎としています。
[10] AI Act, Art. 3(23).
[11] AI Act, Arts. 16-27 (provider obligations) and Art. 26 (deployer obligations).
[12] AI Act, Art. 25(4).
[13] Jones (n 2); 拘束力のある義務を創出することなく、バリューチェーンの協力を単に「奨励」するにとどまる AI Act, Recital 88を参照してください。
[14] AI Act, Art. 14(1); Art. 14(4)(a) and (d).
[15] M. Fink, "Human Oversight under Article 14 of the EU AI Act," SSRN (2025), available at https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5147196.
[16] AI Act, Art. 72(2). 執行モデルとエージェントの運用との間における時間軸の不一致について論じている Jones (n 2) を参照してください。
[17] European Commission, Standardisation Request M/593, as amended by M/613 (June 2025); CEN-CENELEC, "Update on CEN and CENELEC's Decision to Accelerate the Development of Standards for Artificial Intelligence" (October 2025).
[18] AI Act, Arts. 7 and 97. 委任は2024年8月1日から5年間であり、3ヶ月の異議申し立て期間が設けられています。
[19] AI Act, Art. 6(3).
[20] Orrick, "EU Commission Clarifies Definition of AI Systems"(2025年4月)を参照。欧州議会議員のLagodinsky氏は、2025年9月に欧州委員会に対し、エージェントの規制を明確にするよう正式に要請しており、さらなるガイダンスへの政治的意欲が示されています。Jones (n 2) を参照してください。
[21] AI Act, Art. 56.
[22] European Commission, Proposal for a Regulation amending Regulations (EU) 2024/1689 and (EU) 2024/1689 (Digital Omnibus on AI), 19 November 2025. European Parliament Think Tank, "Digital Omnibus on AI: EU Legislation in Progress" (February 2026) も参照してください。
[23] AI Act, Art. 112.
2023年からISO 27001認証を取得、NQAによる年次監査
GDPRに沿ったデータ取り扱い
顧客データは複数リージョンのAWSでホスト
独自のAIモデルをプライベート接続で利用可能
チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。



