EU AI法におけるリスク分類：自社のAIシステムのリスク階層を判定する方法

欧州連合（EU）内で展開される、またはEUに影響を及ぼすすべてのAIシステムは、現在、4段階のリスクスペクトラムのいずれかに位置付けられます。その位置付けは、単なる理論上の検討ではありません。組織が一切の規制負担を負わないのか、限定的な透明性義務のみを負うのか、数十万ユーロ規模の包括的な適合性制度を課されるのか、あるいは全面的に禁止されるのかを決定します。分類を誤ることは、どちらの方向であっても重大な結果を招きます。過大に分類すれば、本来不要なコンプライアンス基盤にリソースが流出し、過小に分類すれば、組織は執行措置、最大3,500万ユーロまたは世界売上高の7%に達する罰金、そしていかなる是正計画でも短期間では回復できないレピュテーションの毀損に直面します [1]。

EU AI Actのリスク分類フレームワークは、表面上は明快です。しかし実務では、各階層の境界は法令文が示唆するほど明確ではありません。一見すると1つのカテゴリに収まるように見えるシステムが、精査すると2つのカテゴリにまたがることがあります。本ガイドは、その複雑性を体系的に読み解くための道筋を示します。

4つのリスク階層

AI Actは、異なる義務を伴う4つのリスク階層を定めています。各階層に求められる内容を理解することは、正確な分類の前提条件です。

許容できないリスク（禁止）

AI Act第5条は、安全、人々の生活、権利に対して本質的に重大な脅威となるため、全面的に禁止されるAI実践を特定しています。これには、公的機関によって、またはその代理として運用されるソーシャルスコアリング、法執行目的で公共空間におけるリアルタイムの遠隔生体認証（限定的な例外を除く）、年齢、障害、社会的状況に基づき特定の集団の脆弱性を利用するAIシステム、ならびに個人の意識を超えた潜在的手法を用いて、害を生じさせる形で行動を実質的に歪めるシステムが含まれます [2]。

禁止対象システムに対しては、適合のための経路は存在しません。唯一の適法な対応は、展開を停止することです。

高リスク

高リスクシステムは、規制対応の中心的な位置を占めます。これらには、リスク管理システム、データガバナンス要件、技術文書、記録保持、透明性規定、人による監督の仕組み、ならびに正確性、堅牢性、サイバーセキュリティに関する要件など、最も詳細な義務が課されます [3]。高リスク分類に至る2つの経路については、以下で詳しく解説します。

この階層こそ、企業のコンプライアンス対応の大半が集中する領域であり、分類ミスのコストが最も大きくなります。

限定リスク

限定リスクに分類されるシステムには、透明性義務のみが課されます。主な要件は開示です。利用者に対し、自分がAIシステムとやり取りしていることを通知しなければなりません。この階層には、チャットボット、禁止カテゴリに該当しない感情認識システム、ディープフェイク生成器、ならびにテキスト、音声、画像コンテンツを生成または改変するAIシステムが含まれます [4]。

限定リスクは、完全な適合性制度を課すことなく、欺瞞を管理するためのAI Act上の仕組みです。

最小リスク

AIシステムの大多数はここに分類されます。スパムフィルター、AI対応のビデオゲーム、在庫管理アルゴリズムなどは、AI Act上の特段の義務を負いません。ただし、自主的な行動規範は推奨されています [5]。

最小リスクはデフォルトです。システムが上位階層に移行するのは、定められた基準を満たす場合に限られます。

判断ツリー：段階的な分類方法

EU AI Actのリスク分類は、順次的な分析を要します。以下の判断ツリーは、第5条、第6条、第7条のロジックを反映しており、Enzaiの分類ワークフローが、数十から数百のシステムを扱う企業チーム向けに自動化しているのと同じ、再現可能なプロセスを提供します。

ステップ1：当該システムは第5条の禁止対象に該当しますか。

システムの目的と仕組みを、各禁止行為と照合してください。公共空間における法執行目的のリアルタイム生体認証、害を生じさせる潜在的手法による人物の操作、特定の脆弱性の利用、公的機関によるソーシャルスコアリングを行う場合、そのシステムは禁止対象です。

該当する場合：当該システムは許容できないリスクです。ここで終了します。

該当しない場合：ステップ2に進みます。

ステップ2：当該システムは、附属書Iに列挙されたEUの調和立法の対象となる製品の安全部品ですか。あるいは、システム自体がそのような製品ですか。

附属書Iには、機械、玩具、医療機器、民間航空、自動車、鉄道システムなどを対象とする既存のEU製品安全指令および規則が列挙されています [6]。AIシステムがこれらの規制対象製品の安全部品として機能している場合、またはシステム自体が規制対象製品である場合、第6条(1)に基づき高リスクに該当します。重要な点として、これらのシステムには、関連する業種別立法に基づく第三者適合性評価も必要です。

該当する場合：当該システムは、第6条(1)に基づく高リスクです。分類後の義務へ進みます。

該当しない場合：ステップ3に進みます。

ステップ3：当該システムは、附属書IIIに列挙されたユースケースカテゴリのいずれかに該当しますか。

附属書IIIは、高リスク適用の8分野を列挙しています。システムの想定目的がこれらのカテゴリのいずれかに合致する場合、第6条(2)に基づき暫定的に高リスクとなります。附属書IIIのカテゴリは広範かつ事実関係依存であるため、ここでは最も精緻な分析が求められます。

該当する場合：ステップ4に進みます。

該当しない場合：ステップ5に進みます。

ステップ4：第6条(3)の例外は適用されますか。

第6条(3)は、最終文面において重要な限定を導入しました。システムが附属書IIIに該当していても、健康、安全、基本権に対して重大な危害リスクをもたらさない場合は、高リスクとはみなされません。具体的には、狭い手続的作業のみを実行する場合、既に完了した人間の活動の結果を改善する場合、人的判断を置き換えたり影響を与えたりすることなく意思決定パターンを検出する場合、または附属書IIIのユースケースに関連する評価のための準備作業を行う場合には、適用除外となります [7]。

提供者は、この例外が適用される理由を文書化し、システムを市場に投入する前に所管の国内当局に通知しなければなりません。当局がこれに同意しない場合、当該システムは高リスクの статусに戻ります。

第6条(3)が適用される場合：当該システムは高リスクではありませんが、文書化および通知義務は残ります。透明性基準に基づき、限定リスクまたは最小リスクとして分類してください。

第6条(3)が適用されない場合：当該システムは第6条(2)に基づく高リスクです。分類後の義務へ進みます。

ステップ5：当該システムは透明性開示を要しますか。

当該システムが自然人と直接やり取りする場合（チャットボット）、画像・音声・映像コンテンツを生成または改変する場合（ディープフェイク、生成AI）、または禁止対象に該当しない文脈で感情認識や生体分類を行う場合、限定リスクの透明性義務に該当します [4]。

該当する場合：当該システムは限定リスクです。

該当しない場合：当該システムは最小リスクです。特段の義務は適用されません。

分類の信頼性は、各分岐点で適用される厳密性にのみ依存します。複数のシステムを扱うチーム向けに、以下のワークシートをインベントリ内の各AIシステムについて複製し、記入できます。

附属書IIIのカテゴリ：具体的な企業事例

附属書IIIは、多くの企業向けAIシステムにとって高リスク分類への入口です。法令文は広範な表現を用いているため、実務上の具体例によって補うことが有益であり、8分野それぞれを事例とともに検討する必要があります。

1. 生体認証による識別および分類

これには、遠隔生体認証システム（法執行目的のリアルタイム用途は禁止）および、生体データに基づいて自然人をカテゴリに割り当てる生体分類システムが含まれます。企業事例としては、自動搭乗確認のために顔認識を導入する空港、または来店客の属性を推定するために生体分類を用いる小売業者が挙げられます。

2. 重要インフラの管理および運用

道路交通、水道、ガス、暖房、電力供給、ならびにデジタルインフラの管理・運用において安全部品として使用されるAIシステムが対象です。例えば、電力系統の負荷分散を管理するAIシステム、水処理施設向けの予知保全アルゴリズム、または自治体が導入する信号最適化システムなどが該当します。

3. 教育および職業訓練

教育機関への入学や配属を決定するシステム、または学習成果を評価するシステムが対象です。AIを活用した入学選考スコアリングツール、自動エッセイ採点システム、または学生を学術トラックに振り分けるプラットフォームはいずれも該当します。

4. 雇用、労働者管理、および自営へのアクセス

採用、選考、雇用判断、タスク配分、パフォーマンス監視、または解雇判断に用いられるAIシステムが対象です。これは企業実務において最も頻繁に該当するカテゴリの1つです。候補者を順位付けまたは絞り込むAI搭載の履歴書スクリーニングツール、予測生産性に基づいてシフトを割り当てる人員配置アルゴリズム、または解雇候補として従業員をフラグ付けする評価システムは、いずれも対象に含まれます。

5. 必要不可欠な民間・公的サービスへのアクセスおよび利用

これには、公的給付の受給資格、クレジットスコアリング、生命保険および医療保険におけるリスク評価、ならびに緊急サービスの出動優先順位付けに用いられるAIシステムが含まれます。融資適格性を判断するために銀行が使用する信用スコアリングアルゴリズム、社会住宅の申請をトリアージするAIシステム、または個人のリスクプロファイルに基づいて保険料を設定する引受モデルは、いずれもこのカテゴリにおいて高リスクです。

6. 法執行

個人のリスク評価、ポリグラフ分析、証拠の信頼性評価、自然人に関する犯罪予測、ならびに刑事捜査におけるプロファイリングのために法執行機関が使用するAIシステムが対象です。犯罪を犯す可能性のある人物を特定する予測型警備ツールや、証言の信頼性を評価するAIシステムがここに含まれます。

7. 移民、庇護、および国境管理

EUに入域する人物がもたらす安全保障上のリスク評価、庇護申請の審査支援、または移民関連の文脈における人物の検出・認識・識別に用いられるシステムが対象です。国境管理で旅行者を追加審査に回すためのリスクスコアリングツールや、庇護申請者の申立ての整合性を分析するAIシステムが該当します。

8. 司法および民主的プロセスの運営

司法当局による事実および法令の調査・解釈を支援するためのAIシステム、または選挙結果に影響を与えるために使用されるシステムが対象です。裁判官に対して事件の結論を提案する法務調査ツール、または有権者プロファイリングに基づいて政治広告をマイクロターゲティングするシステムが、このカテゴリに含まれます。

分類を決定するのは、基盤となる技術ではなく、想定される目的の具体性です。

例外的ケースとグレーゾーン

AI Actのリスク階層の境界は、EnzaiのようなプラットフォームをAIガバナンスに活用する組織が一貫して直面する、いくつかの反復的シナリオにおいて最も鋭く試されます。

感情検知：すべては文脈で決まる

職場および教育環境における感情認識は、特定の禁止または高リスク分類を引き起こします。しかし、カスタマーサービスの文脈で導入される感情検知、たとえば通話者の感情を分析してサポートチケットを振り分けるAIツールは、職場における禁止には該当しません。それでも、透明性規定の下で限定リスクに該当し、通話者への開示が求められる可能性があります。判断要因は技術そのものではなく、導入文脈と当事者間の権力非対称性です [8]。

AIの推奨とAIの決定

人によるレビューのために判断を推奨するシステムは、その判断を自律的に実行するシステムとは異なる位置付けにあります。候補者を順位付けして人事担当者にショートリストを提示するAIツールは、附属書III（雇用カテゴリ）に基づき高リスクとなり得ますが、人による監督のあり方は適用される具体的な義務に影響します。これに対し、実質的な人の介入なしに融資申請を自動却下するシステムは、高リスク要件の全面的な適用を受けます。重要なのは、人が現実的かつ日常的にAI出力を覆すことができるのか、それともシステムの推奨が事実上の決定として機能するのかという点です [9]。

第6条(3)の自己判断経路

第6条(3)は高リスク分類からの脱出口を提供しますが、多くの組織が当初想定するほど広いものではありません。応募書類を標準化されたレイアウトに単に再フォーマットする履歴書スクリーニングツールは、準備作業を行うため、例外に該当する可能性があります。同じツールでも、候補者を順位付けするよう設定されていれば該当しません。組織は、自社システムの機能を最も有利に見える形で描写したくなる誘惑を避けなければなりません。国内当局には再分類権限が残っており、文書化の負担は提供者にあります。Enzaiの分類ワークフローは、組織が立場を確定する前に、第6条(3)の主張を規則の要件に照らして厳密に検証できるよう設計されています。

高リスクシステムにおける汎用AIモデル

汎用AIモデルが高リスクシステムに組み込まれる場合、義務はモデル提供者だけでなく、特定の高リスクユースケース向けにシステムを構成する導入者にも及びます。信用スコアリングのために基盤モデルをファインチューニングする組織は、基盤モデル自体が第三者によって開発されたものであっても、高リスク義務を引き継ぎます [10]。

システムがリスクスペクトラム上でどこに位置するかは、当初見たほど明白であることはほとんどありません。

分類プロセス：ガバナンスと文書化

EU AI Actのリスク分類は、単一の機能だけで完結する作業ではありません。複数の専門分野からの体系的な入力と、規制当局の精査に耐え得る文書化の証跡を必要とします。

誰を関与させるべきか

少なくとも、分類プロセスには、規制実務に精通した法務、システムの設計と想定目的に責任を負う技術チーム、導入の運用文脈を理解するドメイン専門家、リスクまたはコンプライアンス担当者、そして当該システムが従業員に影響を及ぼす場合には、労働者代表または人事部門の責任者を含めるべきです。

よくある失敗は、分類を法務のみに、あるいはエンジニアリングのみに委ねることです。法務チームは、システムが真に自律的に意思決定を行うかどうかを評価するための技術的理解を欠く場合があり、エンジニアリングチームは、システムの運用文脈が持つ規制上の重要性を過小評価する場合があります。

どのように文書化するか

分類の根拠は、国内監督当局に提示できる形式で記録しなければなりません。文書には、システムの想定目的の明確な説明、検討した具体的な条文および附属書、割り当てた階層の根拠、第6条(3)が適用される場合の分析、評価に関与した個人および役割の特定、ならびに分類日と将来の見直しトリガーを含めるべきです。

意見の相違への対処

社内の利害関係者の間で分類について意見が一致しない場合は、さらなる分析が完了するまで保守的な立場を優先すべきです。あるシステムを一旦高リスクと暫定分類し、後から引き下げる組織は、最初から低く分類し、その後に不適合と判断される組織よりも、はるかに低いリスクしか負いません。意見の相違は、プロセスの厳密性を示し、規制当局からの照会があった際に組織を保護するため、文書に記録すべきです。

分類は管理上の形式ではなく、ガバナンス上の行為です。

分類後に何が起こるか

システムに割り当てられたリスク階層は、その後に続くコンプライアンス義務を決定します。階層間の差は大きいものです。

禁止システム

義務は絶対です。EU市場での開発、展開、提供を行ってはなりません。既存システムは廃止されなければなりません。禁止実践に移行期間はありません [2]。

高リスクシステム

提供者は、システムのライフサイクル全体を通じて機能するリスク管理システムを実装しなければなりません。データガバナンスの実務では、訓練、検証、テスト用データセットが関連性、代表性を備え、エラーのないものであることを確保する必要があります。包括的な技術文書は、市場投入前に作成されなければなりません。システムはイベントの自動ログ記録を可能にするよう設計されていなければなりません。透明性要件は、導入者向けの明確な指示を要求します。人による監督措置により、自然人がシステムを理解し、監視し、上書きできるようにしなければなりません。正確性、堅牢性、サイバーセキュリティに関する要件を満たし、維持し続ける必要があります [3]。

高リスクシステムの導入者にも独自の義務があります。基本権影響評価の実施、人による監督が運用上有効であることの確保、提供者の指示に従ったシステム監視、重大インシデントの報告です。

限定リスクシステム

主たる義務は透明性です。利用者には、AIとやり取りしていることを通知しなければなりません。AIによって生成または改変されたコンテンツは、その旨を表示しなければなりません。感情認識システムは、影響を受ける者に対し、その運用を開示しなければなりません [4]。

最小リスクシステム

法的拘束力のある義務はありません。組織は、環境持続可能性やAIリテラシーなどを含む自主的な行動規範の採用を推奨されています [5]。

各階層における義務は、単なる理想論ではありません。不遵守に対する定められた制裁を伴う、執行可能な要件です。

分類からコンプライアンスへ移行する

システムのリスク階層を決定することは、長いコンプライアンスプログラムの最初の行為ですが、他のすべてがそれに依存する重要な行為でもあります。不正確な分類は、文書化に割り当てるリソースから、選択される適合性評価の経路に至るまで、その後のあらゆる意思決定に連鎖的な影響を及ぼします。

複数の法域および事業部門にまたがってAIシステムのポートフォリオを管理する組織は、この課題に大規模に直面します。分類判断の追跡、システムの階層を変更し得る規制更新の監視、ならびに各判断の根拠に関する監査可能な記録の維持には、専用インフラが必要です。

保有するAIインベントリ全体にわたってEU AI Actのリスク分類を実運用に落とし込みたい組織向けに、Enzaiは、進化する規制要件に照らしてAIシステムを分類、文書化、監視するためのガバナンスフレームワークを提供します。デモをリクエストして、体系化された分類ワークフローがコンプライアンスリスクと無駄な作業の双方をいかに削減するかをご確認ください。

Enzaiは、抽象的なポリシーを実運用の監督へと移行させることを目的に構築された、業界をリードするエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスを管理し、包括的なAIインベントリを維持し、EU AI Actコンプライアンスを確保するために必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzaiは、グローバル基準であるISO 42001およびNISTとの整合性を維持しながら、企業が自信を持ってAI導入を拡大できるよう支援します。

参考文献

[1] 規則（EU）2024/1689、第99条 - 罰金。

[2] 規則（EU）2024/1689、第5条 - 禁止された人工知能の実践。

[3] 規則（EU）2024/1689、第8条〜第15条 - 高リスクAIシステムの要件。

[4] 規則（EU）2024/1689、第50条 - 限定リスクAIシステムに対する透明性義務。

[5] 規則（EU）2024/1689、第95条 - 高リスクでないAIシステムの提供者による自主的コミットメントのための行動規範。

[6] 規則（EU）2024/1689、附属書I - EU調和立法。

[7] 規則（EU）2024/1689、第6条(3) - 高リスクAIシステムの分類規則。

[8] 規則（EU）2024/1689、前文44〜46 - 感情認識禁止の適用範囲。

[9] 規則（EU）2024/1689、第14条 - 人による監督。

[10] 規則（EU）2024/1689、第51条〜第56条 - 汎用AIモデル提供者の義務。