2022年9月28日、欧州委員会は「人工知能責任指令（AI Liability Directive、以下「AILD」）」の最初の草案を公開しました。AILDの目的は、AIシステムによって生じた損害に関して、情報へのアクセスおよび立証責任の軽減に関する統一的な規則を定めることです。

AILDは、信頼性の高いAIエコシステムを構築するための欧州における広範な立法推進の最新の取り組みです。この構図には次のものも含まれます。(1) 「人工知能法（EU AI Act、以下「EU AIA」）」（詳細はこちらでお読みいただけます）、および (2) 欠陥製品に対する製造者の無過失責任をカバーする、40年前の製造物責任指令の改訂です。

背景にある必要性

2020年のEUの調査によると、責任に関する曖昧さは、欧州企業がAIを利用する上での上位3つの障壁の1つとなっています。EU内で現在適用されている各国の責任規則がパッチワーク状態であることを考えれば、これは驚くべきことではありません。多くの加盟国は、個人の不法行為または不作為が問題の損害を引き起こしたことを請求者が証明することを要求する、過失責任制度を採用しています。しかし、AIの「ブラックボックス」特性（自律的な動作、限定的な予測可能性、継続的な適応、および透明性の欠如）により、既存の制度の下で責任追及を成功させるために必要な、過失の所在を特定することが困難になっています。

*** 鋭い読者の方々は、AILDが「指令（Directive）」であるのに対し、EU AI法は「規則（Regulation）」であることにお気づきかもしれません。その違いは何でしょうか？EUの「規則」は、すべての加盟国で自動的に効力を生じます。一方、「指令」は、すべての加盟国が達成すべき目標を設定するものです。その目標をどのように国内法で達成するのが最善であるかは、個々の加盟国に委ねられています。 ***

‍

規則の概要

AILDは、加盟国が実施すべき目標として、請求者を保護する2つのセーフガードを導入しています。(1) 因果関係の推定、および (2) 証拠開示請求権です。これらの措置は、AIシステムに責任規則を適用する際に生じる、特有の立証上の課題を請求者が克服するのに役立ちます。

1. 因果関係の推定

AIによって引き起こされた損害において因果関係を証明することの困難さに対処するため、AILDは、AIシステムの不具合によって生じた過失または不作為について、被告に責任があるという反証可能な推定を設定します。この推定は反証可能であり、以下の3つの条件が満たされた場合にのみ生じます。

A - 被告の行為が、発生した損害からの保護を特に目的とした、欧州または国内の法令に定められた注意義務を満たしていなかったこと。

B - 事案の状況に基づき、被告の過失がAIシステムによって生成された出力（またはAIシステムが出力を生成しなかったこと）に影響を与えたと合理的に想定できること。

C - 請求者が、AIシステムによって生成された出力（またはAIシステムが出力を生成しなかったこと）が損害を引き起こしたことを証明したこと。

EU AIAの下で高リスクAIシステムに該当する場合、被告がEU AIAの下で課された特定の義務を遵守していなかったときは、上記のAに規定する要件は自動的に満たされたものとみなされます。これらの義務には、特に文書化および監視の要件が含まれます。

2. 証拠開示請求権

AILDは、請求者となる可能性のある者が、高リスクAIシステムに関する関連証拠の開示を命じる裁判所の命令を取得することを可能にします。この種の証拠は、EU AIAに基づく技術文書、監視ログ、およびその他すべての透明性に関する要件で構成されます。極めて重要な点として、被告がこの情報を開示しない場合、欧州または国内法に基づく関連する注意義務を満たさなかったものとみなされ、上記のAに定める要件が自動的に満たされます。これは、関連情報の開示を怠ると、被告が因果関係の推定を覆すことが極めて困難になることを意味します。

スケジュール

この提案は、EU AIAの最初の草案が公開されてから1年以上経ってから提起されました。一部の評論家は、欧州におけるAI規制体系の不整合が曖昧さを増し、規制の空白を招く可能性があるとして、この状況を懸念しています。これは妥当な指摘です。EU AIAの施行とAILDの施行の間に大きな時間差があれば、確かに規制の空白が生じます。これに関して、欧州委員会はそのような空白はないと考えており、結果は時間が経たなければわかりません。現在、この提案は欧州理事会で審査中であり、欧州議会での審議も進める必要があります。

私たちの見解

これは、AIシステムに関連して詳細な技術文書を保管しておくことの重要性を強く裏付けるものです。AILDの下で設定される責任の推定は反証可能であるため、詳細かつ堅牢な文書は、AIシステムが損害を引き起こしたという潜在的な請求から保護するための強力な盾となり得ます。

また、欧州委員会がAI固有の過失を導入するのではなく、上記の反証可能な推定の要件A（欧州または国内法に基づく既存の注意義務に違反していること）を通じて、EU全域の既存の過失責任ルールに依拠することを選択した点も興味深いところです。AILDには見直し条項が含まれているため、これは「推移を見守る」という姿勢なのかもしれません。

2023年は、AI規制にとって重要な年になるでしょう。EU内で利用されるあらゆる種類のAIを開発している組織は、今からこれらの課題について検討を開始し、コンプライアンスに向けて取り組むことが推奨されます。Enzaiは、この分野の専門家である弁護士によって設立され、支援されています。

‍

Enzaiは、組織が抽象的なポリシーから運用監視へと移行できるよう支援するために特別に構築された、最先端のエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、自律型AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠の確保に必要となる専門的なインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバル基準との整合性を維持しながら、確信を持ってAIの導入を拡張できるよう支援します。