AI責任指令 - ヨーロッパにおけるAIの責任に関する設計図

2022年9月28日、欧州委員会は、提案されている人工知能責任指令（「AILD」）の初版草案を公表しました。AILDの目的は、AIシステムによって生じた損害に関して、情報へのアクセスおよび立証責任の軽減に関する統一規則を定めることです。

AILDは、信頼できるAIエコシステムを構築するための、欧州における広範な立法推進の最新動向です。この動きには、(1) 人工知能法（「EU AIA」）も含まれており、こちらで詳しくご覧いただけます。さらに、(2) 制定から40年を迎えた製造物責任指令の改正も含まれます。これは、欠陥製品に対する製造者の無過失責任を対象とするものです。

必要性

2020年のEU調査によれば、責任に関する不明確さは、欧州企業によるAI活用の三大障壁の一つでした。EUで現在採用されている各国の責任ルールが寄せ集めになっていることを踏まえれば、これは驚くことではありません。多くの加盟国は過失責任主義の制度を採用しており、請求者は、個人の違法な行為または不作為が当該損害を引き起こしたことを立証する必要があります。しかし、AIは「ブラックボックス」的な性質（自律的な挙動、限定的な予測可能性、継続的な適応、透明性の欠如）を有するため、現行制度の下で責任請求を成功させるために必要な過失の所在を特定することが困難です。

*** 鋭い読者の方は、AILDが「Directive」であるのに対し、EU AI Actが「Regulation」であることにお気づきかもしれません。その違いは何でしょうか。EU規則は、すべての加盟国で自動的に効力を生じます。これに対し、指令は、すべての加盟国が達成すべき目標を定めるものです。その目標を国内法でどのように最善の形で達成するかは、各加盟国に委ねられています。 ***

‍

規則

AILDは、加盟国が実施すべき目標として、請求者に有利な2つの保護措置を導入します。(1) 因果関係の推定、(2) 証拠への権利です。これらの措置は、責任規則をAIシステムに適用する際に生じる特有の立証上の課題を、請求者が克服する一助となります。

1. 因果関係の推定

AIによって生じた損害の事案において因果関係を立証することの困難に対処するため、AILDは、被告が、その故障したAIシステムによって生じた過失または不作為について責任を負うという反証可能な推定を設けています。この推定は覆し得るものであり、以下の3要件が満たされた場合にのみ発生します：

A - 被告の行為が、発生した損害からの保護を特に目的として欧州法または国内法に定められた注意義務を満たしていなかったこと；

B - 事案の状況に照らして、被告の過失がAIシステムによって生成された出力（またはAIシステムが出力を生成しなかったこと）に影響を与えたと合理的に推定できること；

C - 請求者が、AIシステムによって生成された出力（またはAIシステムが出力を生成しなかったこと）が損害を引き起こしたことを立証していること。

EU AIAに基づく高リスクAIシステムの場合、被告がEU AIAに基づき課される一定の義務を遵守していないときは、上記Aに定める要件は自動的に充足されたものとみなされます。これらの義務には、とりわけ、文書化要件および監視要件が含まれます。

2. 証拠への権利

AILDは、将来の請求者に対し、高リスクAIシステムに関する関連証拠の開示を命じる裁判所命令を取得することを可能にします。この種の証拠には、技術文書、監視ログ、およびEU AIA上のその他すべての透明性要件に関する資料が含まれます。重要なのは、被告がこの情報を開示しない場合、欧州法または国内法に基づく関連する注意義務を満たしていなかったものと推定され、その結果、上記Aの要件が自動的に満たされることです。これは、関連情報の不開示により、被告が因果関係の推定を覆すことが著しく困難になることを意味します。

タイムライン

この提案は、EU AIAの初版草案が公表されてから1年以上経ってから示されました。欧州におけるAI規制体系が分断されたものとなれば、不明確さが増し、規制の空白が生じ得るため、一部の論者はこれを懸念しています。もっとも、それはもっともな指摘です。EU AIAの発効とAILDの発効の間に大きな空白があれば、確かに規制の空白が生じます。念のため申し上げると、欧州委員会はそのような空白を認識しておらず、最終的には時間が明らかにすることになるでしょう。現在は欧州理事会で審査中であり、さらに欧州議会も通過する必要があります。

当社の見解

これは、AIシステムに関する詳細な技術文書を整備・維持することの重要性を改めて強調するものです。AILDに基づく責任の推定は反証可能であるため、詳細かつ堅牢な文書化は、AIシステムが損害を引き起こしたとする将来的な請求に対する強力な防御手段となり得ます。

また、委員会が、AI固有の過失を導入するのではなく、上記の反証可能な推定の要件A（欧州法または国内法に基づく既存の注意義務が違反されていること）を通じて、EU全体で既存の過失責任ルールに依拠することを選択した点も注目に値します。AILDには見直し規定が含まれているため、これは「様子を見よう」という判断なのかもしれません……

2023年は、AI規制にとって大きな節目の年となるでしょう。EUで使用されるあらゆる種類のAIを開発する組織は、今すぐこれらの論点を検討し、コンプライアンスに向けた取り組みを進めることを強くお勧めします。Enzaiは、この分野の専門家である弁護士によって設立され、支援されています。

‍

Enzaiは、抽象的な方針から運用上の統制へと組織が移行することを支援するために設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、ならびにEU AI Act準拠を実現するために必要な専門的インフラを提供します。複雑なワークフローを自動化することで、Enzaiは、 ISO 42001 やNISTといった世界的基準との整合性を維持しながら、企業が安心してAI導入を拡大できるよう支援します。