ブログ
•
6分で読めます
2021年4月、欧州委員会は、かねて注目を集めていた人工知能規制の中核となる規則案を公表しました。一般に「AI法(Artificial Intelligence Act)」と呼ばれるこの法案は、AIシステムを分野横断的に規制する、世界初の包括的な試みです。AI法は、AIとその具体的な用途に伴う有害なリスクに対処すると同時に、この分野における責任あるイノベーションを促進することを目的としています。成立すれば、企業がAI技術を開発、導入、維持、活用する方法は恒久的に塗り替えられることになります。
AI法の主な特徴
「人工知能システム」(AIシステム)の定義:
欧州委員会はAIシステムを広く定義しており、その対象は、広範に定義された複数のAI手法・技術のいずれかを用いるソフトウェアベースの技術にまで及びます。具体的には、「機械学習」、「論理・知識ベース」のシステム、「統計的アプローチ」です。
リスクベースのアプローチ:
この規則は、AIリスクへの対処にあたり、リスクに基づくピラミッド型のアプローチを採用します。市場参加者に課される要件と義務は、各社のAIシステムがもたらすリスクの水準に応じて調整されます。4つのリスク区分については、以下で詳しく説明します。
1. 許容できないリスク:ピラミッドの頂点に位置するのは、利用者や社会全体に許容できないリスクをもたらすとみなされ、全面的に禁止されるAIのユースケースです。禁止対象となるシステムには、サブリミナルな操作、リアルタイムの生体識別、公的機関によるソーシャルスコアリング、社会的弱者の搾取などを伴うAI技術が含まれますが、これらに限られません。
2. 高リスク:禁止はされないものの、個人の安全や基本的権利に悪影響を及ぼすおそれのある幅広い高リスクAIシステムには、より厳格な要件が提案されています。このカテゴリーには、インフラ、教育、雇用、法執行の分野のシステムや、すでにEUの健康・安全に関する法令の対象となっている製品の安全コンポーネントにあたるシステムが含まれます。高リスクシステムに適用される具体的な規則では、特に次の事項が組織に求められます。
• リスク管理システムを構築し、各システムについて適切なリスク評価が確実に実施されるようにすること
• システムに関する包括的な技術文書を作成すること
• 導入前にアプリケーションの適合性評価を受けること
• 質の高いデータガバナンスおよびデータ管理の手順を維持すること
• システムが堅牢性、サイバーセキュリティ、正確性について高い基準を満たすようにすること
3. 限定的リスク:明示的に禁止されておらず、高リスクにも分類されないアプリケーションは、おおむね規制の対象外となります。限定的リスクのシステムには、より負担の軽い透明性義務が課され、利用者にAIツールとやり取りしていることを通知するだけで足ります。
4. 最小リスク:他のいずれのカテゴリーにも該当せず、リスクが最小限とされるアプリケーションには特段の要件はありませんが、企業にはリスクの水準にかかわらず、すべてのAIシステムに倫理に基づくアプローチを採用することが推奨されます。実際、AI法第69条は「受け皿」となる規定として、低リスクAIシステムの提供者や利用者に対し、高リスクシステムと同じ基準を、比例原則に基づいて自主的に遵守するよう促しています。
コンプライアンスの責任主体と違反時の影響:
市場参加者には、AIライフサイクルにおいて担う役割に応じて異なる義務が適用されます。AI法は「提供者」「利用者」「輸入者」「販売者」を区別し、それぞれに異なる義務を課しています。現行のEU AI Act草案における罰則は重く、最も悪質な違反に対しては年間売上高の最大6%の制裁金が科される可能性があります。
現在の状況
公表以降、この法案には欧州連合の他の立法機関や利害関係のある第三者から多くの意見が寄せられています。以下では、主な未解決の論点をいくつか取り上げます。
「人工知能システム」の定義:
何が「AIシステム」に該当するかの判断は、AI法における責任の割り当てにとって極めて重要です。この概念の定義を試みる第3条第1項は対象範囲が広く、業界関係者の間で大きな議論を呼んできました。EU理事会のチェコ議長国が提出した妥協修正案は、この広範な定義が生む曖昧さの解消を図っています。このより限定的な定義は、2つの追加要件を設けることで、従来型のソフトウェアシステムを規則の適用範囲から除外します。その要件とは、(1) システムが機械学習の手法および知識ベースのアプローチによって開発されていること、(2) 対象となるアプリケーションが、相互作用する環境に影響を与える「生成システム」であること、です。
AIの「提供者」と「利用者」の責任分担:
AI法は、コンプライアンス上の義務を主に利用者ではなく提供者(特定のAIシステムを開発する者)に課しています。業界団体は、AIサービスが下流で予見できない目的に使われる場合や、提供者を正確に特定することが難しい場合に、こうしたトップダウン型の責任配分が問題になりうると主張しています。
汎用AI:
アプリケーションが汎用AIシステムに分類されるかどうかは、さまざまな状況で複数のタスクを実行できるかどうかにかかっています。今年5月、EUの政策担当者は、低リスクの用途であっても、EU AI Actの要件をすべての汎用AIに適用する意向を表明しました。これには異論も多く、提案の中核であるリスクベースのアプローチから根本的に逸脱し、イノベーションを阻害しかねないとの指摘が出ています。今年9月には、EU理事会が妥協案として、汎用AIに包括的なリスク評価手続きを義務付けることを提案しました。これにより、低リスクの汎用AIシステムはAI法のより厳格な要件から除外されることになり、この案はおおむね好意的に受け止められています。
義務的な基本原則:
欧州議会議員(MEP)から、リスクの水準にかかわらず、すべてのAIシステムに公平性、透明性、説明責任に関する義務的な基本原則を導入するよう求める提言が提出されており、最終的な決定が待たれています。
標準規格:
立法手続きと並行して、欧州委員会は欧州の標準化団体であるCENとCENELECに対し、AI法への準拠を評価するための技術標準の策定を要請しました。これらの団体が策定する標準への準拠は任意ですが、自社のシステムが標準を満たしていることを示した組織は、AI法への適合性の推定を受けられます。
課題
AI法は、EUの複雑な立法手続きをいまだ進行中です。しかし、多くの組織がすでにAI法への備えを始めています。この分野が成熟するにつれ、リスク管理システムの導入や詳細な技術レビューの実施といった先手の取り組みは、規制上の義務の有無にかかわらず、組織に明確なメリットをもたらします。
とはいえ、そのプロセスにはまだ多くの課題があります。エコシステムにおける市場参加者としての自社の役割を理解し、複雑なリスク水準の判断に対応したうえで、AI法の関連義務が適用されるかを見極めて遵守することは、この分野の事業者にとって間違いなく負担となります。Enzaiのプラットフォームは、こうした課題を念頭に設計されています。組織がこの領域を迅速かつ効率的に乗り切れるよう支援し、将来を見据えたAI技術の構築に集中できる環境を整えます。
Enzaiは、エンタープライズAIガバナンスをリードするプラットフォームです。抽象的なポリシーを実務での監督へと移行できるよう、専用に設計されています。EnzaiのAIリスク管理プラットフォームは、自律型AI(エージェンティックAI)ガバナンスの実践、包括的なAIインベントリの維持、EU AI Actへの準拠に必要な専用基盤を提供します。複雑なワークフローを自動化することで、ISO 42001やNISTなどのグローバル標準との整合性を保ちながら、企業が自信を持ってAI活用を拡大できるよう支援します。
2023年からISO 27001認証を取得、NQAによる年次監査
GDPRに沿ったデータ取り扱い
顧客データは複数リージョンのAWSでホスト
独自のAIモデルをプライベート接続で利用可能
チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。



