ブログ
•
5分で読めます
2022年9月28日、欧州委員会はAI責任指令案(Artificial Intelligence Liability Directive、以下「AILD」)の最初の草案を公表しました。AILDの目的は、AIシステムによって生じた損害について、情報へのアクセスと立証責任の軽減に関する統一ルールを定めることです。
AILDは、信頼できるAIエコシステムの構築を目指す、より広範な欧州の立法の動きにおける最新の取り組みです。この動きには、ほかにも次のものが含まれます。(1)AI法(Artificial Intelligence Act、以下「EU AIA」)。詳しくはこちらをご覧ください。(2)欠陥製品に対する製造者の無過失責任を定める、制定から40年を経た製造物責任指令の改正。
必要性
2020年のEUの調査によると、責任の所在の曖昧さは、欧州企業がAIを利用するうえでの三大障壁の一つとなっています。EUでは現在、各国の責任ルールが入り組んでいることを考えれば、これは驚くに当たりません。多くの加盟国は過失責任制度を採用しており、原告は、個人の違法な作為または不作為が当該損害を引き起こしたことを証明しなければなりません。しかし、AIの「ブラックボックス」的な性質(自律的な挙動、限定的な予測可能性、継続的な適応、透明性の欠如)により、既存の制度の下で責任追及を成功させるために必要な、過失の原因を特定することが困難になっています。
*** 注意深い読者は、AILDが「指令(Directive)」であるのに対し、EU AI Actは「規則(Regulation)」であることにお気づきかもしれません。その違いは何でしょうか。EU規則は、すべての加盟国で自動的に効力を持ちます。一方、指令はすべての加盟国が達成すべき目標を定めるものです。その目標を国内法でどのように達成するのが最善かは、各加盟国の判断に委ねられています。***
規定の内容
AILDは、加盟国が実施すべき目標として、原告に有利な2つの保護措置を導入しています。(1)因果関係の推定と、(2)証拠開示を求める権利です。これらの措置は、AIシステムに責任ルールを適用する際に生じる特有の立証上の課題を、原告が乗り越える助けとなります。
1. 因果関係の推定
AIによる損害の事案で因果関係を証明することの難しさに対処するため、AILDは、被告が自らの不具合のあるAIシステムによって生じた過失または不作為について責任を負うという、反証可能な推定を設けています。この推定は、次の3つの条件がすべて満たされた場合にのみ成立し、反証によって覆すことができます。
A:被告の行為が、発生した損害の防止を特に目的とする欧州法または国内法上の注意義務を満たしていなかったこと。
B:事案の状況に基づき、被告の過失がAIシステムの生成した出力(またはAIシステムが出力を生成しなかったこと)に影響を与えたと合理的に推定できること。
C:AIシステムが生成した出力(またはAIシステムが出力を生成しなかったこと)が損害を引き起こしたことを、原告が証明したこと。
EU AIAにおける高リスクAIシステムの場合、被告がEU AIAに基づき課された一定の義務を遵守していなければ、上記Aの要件は自動的に満たされたものとみなされます。これらの義務には、文書化やモニタリングに関する要件などが含まれます。
2. 証拠開示を求める権利
AILDにより、潜在的な原告は、高リスクAIシステムに関する関連証拠の開示を命じる裁判所命令を得られるようになります。こうした証拠には、技術文書、モニタリングログ、その他EU AIAに基づく透明性要件に関わるすべての情報が含まれます。重要なのは、被告がこれらの情報を開示しない場合、欧州法または国内法上の関連する注意義務を満たしていなかったものと推定され、上記Aの要件が自動的に満たされる点です。つまり、関連情報を開示しなければ、被告が因果関係の推定を覆すことは大幅に難しくなります。
今後のスケジュール
この提案は、EU AIAの最初の草案が公表されてから1年以上経って出されました。欧州のAI規制体系がまとまりを欠けば、曖昧さが増し、規制の空白が生じかねないとして、これを懸念する論者もいます。もっともな指摘です。EU AIAの発効とAILDの発効の間に大きな時間差があれば、規制の空白が生じることになります。ちなみに欧州委員会はそうした空白があるとは考えていませんが、結果は時が経てばわかるでしょう。提案は現在、理事会で審議されており、欧州議会での審議も経る必要があります。
私たちの見解
このことは、AIシステムに関する詳細な技術文書を維持することの重要性を改めて示しています。AILDで設けられる責任の推定は反証可能であるため、詳細で堅牢な文書は、AIシステムが損害を引き起こしたとする請求から身を守る強力な盾となり得ます。
また興味深いのは、欧州委員会がAI固有の過失類型を新設するのではなく、前述の反証可能な推定の要件A(欧州法または国内法上の既存の注意義務に違反していること)を通じて、EU全域の既存の過失責任ルールに依拠することを選んだ点です。AILDには見直し条項も盛り込まれているため、ひとまず「様子見」ということなのかもしれません…
2023年はAI規制にとって大きな節目の年になるでしょう。EUで利用されるあらゆる種類のAIを開発する組織は、今のうちからこうした問題を検討し、コンプライアンスに向けて取り組むことをお勧めします。Enzaiは、この分野に精通した法律家によって設立され、その支援を受けています。
Enzaiは、抽象的なポリシーから運用レベルの監督への移行を支援するために設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、自律型AI(エージェンティックAI)ガバナンスの実践、包括的なAIインベントリの維持、EU AI Actへの準拠に必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzaiは、ISO 42001やNISTなどのグローバル標準との整合性を保ちながら、企業が自信を持ってAI活用を拡大できるよう支援します。
2023年からISO 27001認証を取得、NQAによる年次監査
GDPRに沿ったデータ取り扱い
顧客データは複数リージョンのAWSでホスト
独自のAIモデルをプライベート接続で利用可能
チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。



