欧州連合（EU）内で導入されている、または影響を及ぼしているすべてのAIシステムは、現在、4段階のリスクスペクトラムのいずれかに位置づけられています。この分類は単なる机上の空論ではありません。これにより、組織が規制上の負担を一切負わないか、限定的な透明性義務のみを負うか、数十万ユーロのコストを伴う包括的な適合性評価制度に従うか、あるいは完全な禁止に直面するかが決定されます。真のコストが生じるのは、実際より低いリスク区分に分類（過小分類）してしまった場合です。是正措置、最高3,500万ユーロまたは全世界の年間売上高の7%のいずれか高い方の制裁金、そしていかなる救済計画でもすぐには回復できないレピュテーションへの打撃が待ち受けています [1]。

EU AI Actのリスク分類フレームワークは、表面的には明快です。しかし実務においては、各階層の境界線は条文が示唆するほど明確ではありません。一見すると一つのカテゴリーにすっきりと収まるように見えるシステムも、詳細に検証すると二つのカテゴリーにまたがっていることがあります。本ガイドでは、この複雑な状況を乗り越えるための体系的な道筋を提供します。

4つのリスク階層

AI規則は4段階のリスク階層を確立しており、それぞれに異なる義務が課されています。正確な分類を行うためには、各階層が何を要求しているかを理解することが前提条件となります。

許容できないリスク（禁止）

AI規則の第5条は、安全性、生活、および人権に対して根本的な脅威を与えるとみなされ、全面的に禁止されるAIのプラクティスを定義しています。これには、公的機関が（またはその代理として）運用するソーシャルスコアリングシステム、法執行を目的とした公共の場におけるリアルタイムの遠隔生体識別（極めて限定的な例外あり）、年齢、障害、または社会的状況に基づく特定のグループの脆弱性を悪用するAIシステム、および人の意識を超えたサブリミナル技術を用いて実質的に行動を歪め、害をもたらす方法で展開されるシステムなどが含まれます [2]。

禁止されたシステムに対しては、コンプライアンスを達成するための道筋は存在しません。法に準拠するための唯一の対応は、導入を中止することです。

高リスク

高リスクシステムは、この規制における「重力の中心」を構成します。これらは最も詳細な義務の対象となります。すなわち、リスク管理システム、データガバナンス要件、技術文書、記録保持、透明性の提供、人間による監視メカニズム、ならびに正確性、堅牢性、およびサイバーセキュリティに関する要件です [3]。高リスクの分類に至るルートは2つあり、以下で詳細に解説します。

この階層は、ほとんどの企業のコンプライアンスへの取り組みが集中する場所であり、分類の誤りが最も大きなコストをもたらす場所でもあります。

限定的なリスク

限定的なリスクに分類されるシステムには、透明性の確保に関する義務のみが課されます。主な要件は情報開示であり、ユーザーはAIシステムとやり取りしていることを通知されなければなりません。この階層には、チャットボット、禁止カテゴリーに該当しない感情認識システム、ディープフェイク生成器、およびテキスト、音声、または画像コンテンツを生成または操作するAIシステムが含まれます [4]。

「限定的なリスク」は、適合性評価の仕組みを全面的に課すことなく、欺瞞行為を管理するためのAI規則の手段です。

最小限のリスク

AIシステムの大部分はここに該当します。スパムフィルター、AIを搭載したビデオゲーム、在庫管理アルゴリズムなど、これらは本規則に基づく特定の義務を負いませんが、自主的な行動規範の策定が推奨されています [5]。

「最小限のリスク」がデフォルト（初期状態）です。より高い階層の定義基準を満たす場合にのみ、システムのリスクスペクトラムは上がることになります。

ディシジョンツリー：ステップ・バイ・ステップでの分類

EU AI Actのリスク分類には、順を追った分析が必要です。以下のディシジョンツリーは、第5条、第6条、および第7条の論理を反映したものであり、Enzaiの分類ワークフローが、数十から数百のシステムを扱う企業チーム向けに自動化しているものと同一の、再現可能なプロセスを提供します。

ステップ1：システムは第5条の「禁止事項」に該当するか？

システムの目的およびメカニズムを、禁止されている各プラクティスと照らし合わせてレビューします。システムが法執行目的で公共の場においてリアルタイムの遠隔生体識別を行う場合、サブリミナル技術を通じて人を操作し害をもたらす場合、特定の脆弱性を悪用する場合、あるいは公的機関によるソーシャルスコアリングを可能にする場合、それは禁止されます。

該当する場合：そのシステムは「許容できないリスク」です。ここで終了します。

該当しない場合：ステップ2へ進みます。

ステップ2：システムは、付属書IにリストされているEU整合化法令の対象となる製品の安全コンポーネントであるか、またはシステム自体がそのような製品であるか？

付属書Iには、機械、玩具、医療機器、民間航空、自動車、鉄道システムなどをカバーする、既存のEU製品安全指令および規則がリストされています [6]。AIシステムがこれらの規制対象製品内の安全コンポーネントとして機能する場合、またはシステム自体が規制対象製品である場合、第6条(1)に基づき高リスクに該当します。極めて重要な点として、これらのシステムは関連する分野別法に基づき、第三者による適合性評価も必要とします。

該当する場合：そのシステムは第6条(1)に基づき「高リスク」となります。分類後の義務（ポストクラシフィケーション）のプロセスに進んでください。

該当しない場合：ステップ3へ進みます。

ステップ3：システムは、付属書IIIにリストされているユースケース・カテゴリーのいずれかに該当するか？

付属書IIIは、高リスクアプリケーションの8つの領域を列挙しています。システムの本来の目的がこれらのカテゴリーのいずれかに該当する場合、第6条(2)に基づき暫定的に高リスクと判定されます。付属書IIIのカテゴリーは広範かつ個別具体的な事実に依存するため、この分析には最も高い精度が要求されます。

該当する場合：ステップ4へ進みます。

該当しない場合：ステップ5へ進みます。

ステップ4：第6条(3)の例外規定は適用されるか？

最終的な条文において、第6条(3)に重要な限定条項が導入されました。システムが付属書IIIに該当する場合であっても、健康、安全、または基本的人権に対する重大な危害のリスクをもたらさない場合は、高リスクとはみなされません。具体的には、限定的な手続き的タスクを実行する場合、事前に完了した人間による活動の結果を改善する場合、人間の評価に代わることや影響を及ぼすことなく意思決定のパターンを検出する場合、または付属書IIIのユースケースに関連する評価の準備タスクを実行する場合、システムは適用除外となります [7]。

プロバイダー（提供者）は、なぜこの例外が適用されるのかを文書化し、システムを市場に投入する前に関連する国内監督当局に通知しなければなりません。当局が不同意とした場合、システムは高リスクのステータスに戻ります。

第6条(3)が適用される場合：システムは「高リスクではない」と判定されますが、文書化および通知の義務は残ります。透明性基準に基づいて、限定的なリスクまたは最小限のリスクとして分類してください。

第6条(3)が適用されない場合：システムは第6条(2)に基づき「高リスク」となります。分類後の義務のプロセスに進んでください。

ステップ5：システムは透明性開示を必要とするか？

システムが自然人と直接やり取りを行う場合（チャットボット）、画像、音声、または動画コンテンツを生成・操作する場合（ディープフェイク、生成AI）、あるいは禁止されたコンテキスト以外で感情認識や生体情報の分類を実行する場合、限定的なリスクにおける透明性確保の義務が課されます [4]。

該当する場合：そのシステムは「限定的なリスク」です。

該当しない場合：そのシステムは「最小限のリスク」です。特定の義務は適用されません。

この分類の信頼性は、各ノードで適用される厳格さに完全に依存します。複数のシステムを運用するチームのために、インベントリ内の各AIシステムに対してコピーして記入できる以下のワークシートを用意しています。

付属書IIIのカテゴリー：企業の具体的な事例

付属書IIIは、ほとんどの企業のAIシステムにとって高リスク分類への入り口となります。条文は広範な表現を使用しているため、実用的なイラストレーションとして機能する具体的な事例を用いて、8つの領域それぞれを検証する価値があります。

1. 生体識別および分類

これには、遠隔生体識別システム（禁止されている法執行のためのリアルタイムのものを除く）および生体データに基づいて自然人をカテゴリーに割り当てる生体分類システムが含まれます。企業の事例としては、自動搭乗確認のために顔認識を導入する空港や、買い物客の属性（デモグラフィックス）を推測するために生体分類を使用する小売業者などが挙げられます。

2. クリティカル・インフラの管理および運用

道路交通、水道、ガス、熱供給、電気供給、およびデジタルインフラの管理および運用において安全コンポーネントとして使用されるAIシステムです。事例としては、電力網の負荷バランスを管理するAIシステム、浄水施設の予測保全アルゴリズム、地方自治体が導入する信号機最適化システムなどがあります。

3. 教育および職業訓練

教育機関へのアクセスや割り当てを決定するシステム、または学習成果を評価するシステムです。AI搭載の入学者選考スコアリングツールを使用する大学、自動エッセイ採点システム、あるいは生徒の習熟度別クラスへの配置を決定するプラットフォームは、すべてこれに該当します。

4. 雇用、従事者管理、および自営業へのアクセス

採用、選考、雇用の決定、タスクの割り当て、パフォーマンス監視、または解雇の決定に使用されるAIシステムです。これは、企業のコンテキストにおいて最も頻繁にトリガーされるカテゴリーの一つです。候補者をランク付けまたはフィルタリングするAI搭載の履歴書スクリーニングツール、予測された生産性に基づいてシフトを割り当てるワークスケジュールアルゴリズム、解雇の可能性のある従業員をフラグ付けする業績評価システムは、すべてその範囲に該当します。

5. 不可欠な民間サービスおよび公共サービスへのアクセスおよび享受

これには、公的給付の適格性評価、クレジットスコアリング、生命・医療保険におけるリスク評価、および緊急サービスの派遣優先順位付けに使用されるAIシステムが含まれます。融資適格性を判断するために銀行が使用するクレジットスコアリングアルゴリズム、公営住宅の申請をトリアージするAIシステム、個人のリスクプロファイルに基づいて保険料を設定する保険引受モデルは、このカテゴリーにおいてすべて高リスクとなります。

6. 法執行

個人のリスク評価、嘘発見器分析、証拠の信頼性評価、自然人に関する犯罪予測、および犯罪捜査におけるプロファイリングのために法執行機関が使用するAIシステムです。犯罪を犯す可能性の高い人物を特定する予測警察活動ツールや、目撃者の証言の信頼性を評価するAIシステムがこれに該当します。

7. 移民、亡命、および国境管理

EUに入国する者がもたらす安全保障上のリスクを評価するため、亡命申請の審査を支援するため、または移民の文脈で人物を検出、認識、もしくは特定するために使用されるシステムです。追加検査の対象となる旅行者をフラグ付けするために国境管理で使用されるリスクスコアリングツールや、亡命申請者の主張の一貫性を分析するAIシステムなどが該当します。

8. 司法および民主的プロセスの管理

司法当局による事実および法律の調査・解釈を支援することを意図したAIシステム、または選挙結果に影響を与えるために使用されるシステムです。裁判官に判決案を推奨する法的調査ツールや、有権者のプロファイリングに基づいて政治広告をマイクロターゲットするために使用されるシステムは、このカテゴリーに分類されます。

分類を決定するのは、基礎となるテクノロジーではなく、想定される目的（意図された目的）の具体性です。

エッジケースとグレーゾーン

AI規則のリスク階層の境界は、AIガバナンスのために Enzai のようなプラットフォームを使用している組織が日常的に遭遇する、いくつかの繰り返し発生するシナリオにおいて最も鋭くテストされます。

感情検知：文脈（コンテキスト）がすべてを決める

職場や教育現場での感情認識は、特定の禁止事項または高リスクの分類をトリガーします。しかし、カスタマーサービスのコンテキストで導入される感情検知（たとえば、発信者のセンチメントを分析してサポートチケットをルーティングするAIツールなど）は、職場での禁止事項には該当しません。これは透明性規定に基づく限定的なリスクに該当する可能性があり、発信者への情報開示を必要とします。決定的な要因はテクノロジーそのものではなく、導入されるコンテキストと、関与する当事者間の力の不均衡（パワーアシンメトリー）です [8]。

AIによる推奨 対 AIによる決定

人間がレビューするための意思決定を推奨するシステムは、その決定を自律的に実行するシステムとは異なる立場にあります。求職者をランク付けして人間の採用担当者に候補リストを提示するAIツールは、付属書III（雇用カテゴリー）の下で依然として高リスクとなる可能性がありますが、人間による監視の性質が、適用される具体的な義務に影響を及ぼします。逆に、意味のある人間による介入なしに融資申請を自動的に却下するシステムは、高リスク要件のすべての重みを背負うことになります。極めて重要な問いは、「人間が現実的かつ日常的にAIの出力を覆すことができるか」、あるいは「システムの推奨が事実上の決定として機能しているか」です [9]。

第6条(3)の自主判断の道筋

第6条(3)は高リスク分類を回避する道筋を提供しますが、それは多くの組織が最初に想定するよりも狭いものです。履歴書スクリーニングツールが単に申請書を標準化されたレイアウトに再フォーマットするだけであれば、準備的なタスクを実行しているため、例外の要件を満たす可能性があります。しかし、候補者をランク付けするように構成された同一のツールは、適用除外にはなりません。組織は、自社のシステムの機能を最も都合の良い形で性格づけしたいという誘惑に抗わなければなりません。国内当局は再分類する権限を保持しており、文書化の義務はプロバイダーにあります。Enzai の分類ワークフローは、組織があるポジションを確定する前に、規制の基準に照らして第6条(3)の主張をストレステストするように設計されています。

高リスクシステムにおける汎用AIモデル

汎用AIモデルが高リスクシステムに統合される場合、義務はモデルのプロバイダーだけでなく、特定の高リスクユースケースのためにシステムを構成するデプロイヤー（導入者）にも課されます。クレジットスコアリングのために基盤モデルを微調整（ファインチューニング）する組織は、基礎となるモデルがサードパーティによって開発されたものであっても、高リスクの義務を引き継ぐことになります [10]。

システムがリスクスペクトラムのどこに位置するかは、一見して明らかであることは稀です。

分類プロセス：ガバナンスと文書化

EU AI Actのリスク分類は、単一の部門のみで対応できるタスクではありません。複数の専門分野からの体系的なインプットと、規制当局の調査に耐えうる文書化の証跡（トレース）が必要です。

関与すべき担当者

最低限、分類プロセスには、規制の専門知識を持つ法務顧問、システムの設計および意図された目的を担当する技術チーム、導入の運用コンテキストを理解しているドメインエキスパート、リスクまたはコンプライアンスの責任者、そしてシステムが従業員に影響を与える場合は、労働者代表や人事部門のリーダーが関与する必要があります。

よくある失敗パターンは、分類を法務部門またはエンジニアリング部門のどちらか一方に完全に丸投げしてしまうことです。法務チームは、システムが本当に自律的な意思決定を行っているかどうかを評価するための技術的理解が不足している可能性があり、エンジニアリングチームは、システムの運用コンテキストが持つ規制上の重要性を過小評価してしまう可能性があります。

文書化の方法

分類の根拠は、国内の監督当局に提示できる形式で記録されなければなりません。文書には、システムの意図された目的の明確な説明、検討された具体的な条項および付属書、割り当てられた階層の理由、該当する場合は第6条(3)の分析、評価に関与した個人および役割の特定、ならびに分類の日付と計画されているレビューのトリガーを含める必要があります。

意見の相違への対処

社内の関係者の間で分類に関する意見が一致しない場合は、さらなる分析が行われるまで、保守的な立場を採用すべきです。システムを暫定的に高リスクに分類し、後にダウングレードする組織の方が、低リスクに分類した後に非準拠であることが発覚する組織よりも、はるかに少ないリスクに直面することになります。意見の相違は文書に記録しておく必要があります。これにより、プロセスの厳格さが証明され、規制当局からの問い合わせがあった場合に組織を保護することにつながります。

分類はガバナンス行為であり、単なる事務的な手続きではありません。

分類後に何が起こるか

システムに割り当てられたリスク階層によって、その後に続くコンプライアンス義務が決定されます。各階層間のギャップは極めて大きいものです。

禁止されたシステム

義務は絶対的です。開発、導入、またはEU市場での提供を行ってはなりません。既存のシステムは廃止される必要があります。禁止されたプラクティスに対する移行期間は存在しません [2]。

高リスクシステム

プロバイダーは、システムのライフサイクル全体を通じて機能するリスク管理システムを構築しなければなりません。データガバナンスの実践においては、トレーニング、検証、およびテストのデータセットが適切で、代表性があり、誤りがないことを保証する必要があります。システムを市場に投入する前に、包括的な技術文書を準備しなければなりません。システムは、イベントの自動ロギングが可能なように設計される必要があります。透明性の要件として、デプロイヤーに対する明確な指示書が求められます。人間による監視措置は、自然人がシステムを理解し、監視し、覆すことができるものでなければなりません。正確性、堅牢性、およびサイバーセキュリティに関する要件を満たし、それを維持する必要があります [3]。

高リスクシステムのデプロイヤーもまた、独自の義務を負います。基本的人権影響評価の実施、人間による監視が実効的に機能することの確保、プロバイダーの指示に従ったシステムの監視、および重大なインシデントの報告などです。

限定的なリスクのシステム

主な義務は透明性の確保です。ユーザーはAIとやり取りしていることを通知されなければなりません。AIによって生成または操作されたコンテンツには、その旨のラベルを貼る必要があります。感情認識システムは、影響を受ける人々に対してその運用を開示しなければなりません [4]。

最小限のリスクのシステム

法的拘束力のある義務は適用されません。組織は、環境の持続可能性やAIリテラシーなどのトピックに取り組む、自主的な行動規範を採用することが推奨されます [5]。

各階層における義務は、単なる努力目標ではありません。これらは、違反した場合に明確な罰則が定められた、法的強制力のある要件です。

分類からコンプライアンスへの移行

システムのリスク階層を特定することは、長期にわたるコンプライアンスプログラムにおける最初の一歩ですが、すべての成否を分ける極めて重要なステップです。不正確な分類は、文書化に割り当てられるリソースから、選択される適合性評価のルートに至るまで、その後のすべての決定に連鎖的な影響を及ぼします。

複数の管轄区域やビジネスユニットにわたってAIシステムのポートフォリオを管理している組織は、この課題に大規模に直面しています。分類の決定を追跡し、システムの階層を変化させる可能性のある規制のアップデートを監視し、各決定の背後にある根拠の監査可能な記録を維持するには、専用に構築されたインフラストラクチャが必要です。

AIインベントリ全体でEU AI Actのリスク分類を運用化することを目指す組織に対し、Enzai は、進化する規制要件に照らしてAIシステムを分類、文書化、および監視するためのガバナンスフレームワークを提供します。構造化された分類ワークフローが、コンプライアンスリスクと無駄な労力の双方をどのように削減するか、ぜひデモをリクエストしてご確認ください。

Enzaiは、抽象的なポリシーから運用上の監視への移行を支援するために特別に構築された、最先端のエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI Actへの準拠を確実にするために必要な専門的インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業が ISO 42001 や NIST などのグローバル基準との整合性を維持しながら、確信を持ってAIの導入をスケールアップできるよう支援します。

参考文献

[1] 規則 (EU) 2024/1689、第99条 - 制裁金

[2] 規則 (EU) 2024/1689、第5条 - 禁止される人工知能プラクティス

[3] 規則 (EU) 2024/1689、第8条〜第15条 - 高リスクAIシステムに対する要件

[4] 規則 (EU) 2024/1689、第50条 - 限定的なリスクのAIシステムに対する透明性義務

[5] 規則 (EU) 2024/1689、第95条 - 非高リスクAIシステムのプロバイダーによる自主的コミットメントのための行動規範

[6] 規則 (EU) 2024/1689、付属書I - 連合整合化法令

[7] 規則 (EU) 2024/1689、第6条(3) - 高リスクAIシステムの分類ルール

[8] 規則 (EU) 2024/1689、前文(44)-(46) - 感情認識禁止の範囲

[9] 規則 (EU) 2024/1689、第14条 - 人間による監視

[10] 規則 (EU) 2024/1689、第51条〜第56条 - 汎用AIモデルのプロバイダーに対する義務