英国の「革新推進」AIフレームワークへの我々の対応

英国政府のOffice for Artificial Intelligenceによる、最近の政策文書「AI規制に対するプロイノベーション・アプローチの確立」への当社の見解をお伝えできることを、喜ばしく思います。これまで人工知能局がこの極めて重要なテーマに取り組んでこられたことに感謝申し上げるとともに、今後の議論の一翼を担えることを大変うれしく思っております。Enzaiが、進化し続ける AI規制への対応をどのように支援できるかをご覧ください。

メールにて： evidence@officeforai.gov.uk

2022年7月20日付「AI規制に対するプロイノベーション・アプローチの確立」と題する政策文書（以下「政策文書」）への回答

はじめに、Enzaiは北アイルランドのベルファストに設立された新しいスタートアップ企業です。2021年8月、企業法および規制法務の第一線で活躍する弁護士であるライアン・ドネリーと、経験豊富なソフトウェアエンジニアであるジャック・カーライルにより創業され、私たちは、強力な人工知能（「AI」）技術が将来にわたり社会全体の利益のために活用されるよう尽力しています。

私たちは、AIに伴う重大なリスクの抑制に特に注力しています。当社のソフトウェアプラットフォームにより、お客様は自社のAIシステムをAI開発実務のゴールドスタンダードに照らしてベンチマークし、組織全体におけるAIガバナンスの集約的な現状を把握し、必要なガバナンス上のチェックとバランスをシステムに適用して、その成功を確かなものにすることができます。これにより、お客様が、当該技術を利用する個々の組織のみならず社会全体に資する、より安全で堅牢なシステムを構築できるよう支援しています。

私たちは、規制を促進力として捉え、その力がAI分野におけるイノベーションを前進させ得ると確信しています。これほど強力な技術には、将来の発展が企業と社会の双方に資するよう、適切なガードレールが必要です。これは英国にとって大きな機会です。創業者の法務的背景を踏まえると、英国がその規制制度および法の支配に関して世界的に高く評価されていることを、私たちは強く認識しています。私たちは、英国が知的な規制枠組みを備えることで、AI分野において優秀な人材と投資を引きつけるうえで、比類なく有利な立場にあると確信しています。この機会を最大限に活かすため、いかなる規制枠組みも以下の原則を考慮すべきです。すなわち、(1) 重点を絞ること。これにより、最小限の介入で最大の効果を得ることができます。(2) 文脈に即していること。技術およびそれが適用される領域の固有の状況を踏まえること。(3) 明確であること。市場参加者が自らに何が期待されているのかを確実に理解できるようにすることです。

この観点から、私たちは、この政策文書で示された提案を、英国をプロイノベーション型のAI法域として確立するための重要な一歩として歓迎します。以下に、政策文書で提起された個別の質問に対する当社の回答を示します。

AI規制に対する現行のアプローチにおける最も重要な課題は何ですか。最も重大な欠落、重複、または矛盾についてご意見はありますか。

一般的な所感として、政策文書で示されたリスクベースのアプローチは、本提案の妥当な出発点です。ただし、いかなる規制介入も上記の原則に適合する必要があることを強調したいと考えます。

政府が、AIそのものではなくAIの利用を規制しようとしている点は認識しています。しかし、AIの利用に伴う下流への影響のみに注目することは、あまりに単純化しすぎていると考えます。規制枠組みは、システムが安全かつ堅牢であることを確保するため、AIライフサイクルのあらゆる側面を包括的に捉えるべきです。開発ライフサイクルの他の側面、たとえば上流工程であるデータセットの収集・整備や、開発中流工程であるモデリング、学習、テスト、評価に関しても、適切なガードレールが示されない場合、曖昧さと混乱が大きく残ります。高リスクの影響可能性を有するシステムについては、開発ライフサイクル全体を通じて市場参加者に合理的な期待を課すことが、アプローチへの歓迎すべき追加要素となるでしょう。これは、一定水準の技術文書化の要求や、こうしたAIに対するリスク管理システムの構築を求める形で実現できる可能性があり、私たちが構築しているソフトウェアプラットフォームは、これらの要件が市場参加者に課すと見込まれる管理上の負担を大幅に軽減するうえで大きな助けとなります。

政策文書で示されたAIの定義に関するアプローチは興味深く、「中核的特性」に基づく解釈という概念には魅力があります。しかし、私たちは、これをさらに進める余地があると考えています。すなわち、AIと明確に考えられる技術を網羅的に列挙した一覧を作成し、解釈の補助とすることが可能です。そのうえで、例外的なケースには中核的特性の分析を適用し、新たなAIが発明された際には、その技術を一覧に追加していくことができます。ただし、これにより規制当局に管理上の負担が生じることも認識しています。したがって、この特定の提案の可能性については、さらなる議論を歓迎します。

現時点でこの分野が、有機的かつ場当たり的な形で、しかも急速に発展してきた結果、市場参加者が把握し対応することが極めて困難になっている、との認識が示されたことを、私たちは歓迎します。多くの政府機関がそれぞれ異なる枠組み、ロードマップ、ガイドラインを公表しており、追跡が難しくなっています。これは重大な課題であり、市場参加者が接する際の単一の信頼できる情報源を設けることで、英国のAI関連機関および政策立案者を大幅に簡素化することを望みます。この提案は、政策文書で提唱されているセクター別アプローチに矛盾することを意図したものではありません。むしろ、この単一の信頼できる情報源のアプローチが、必要に応じて参加者を各セクター固有の枠組みおよび規制当局へと導くべきです。

‍

この文書で示された、英国の既存規制当局を通じて実施される文脈重視のアプローチに同意されますか。このアプローチの利点は何であり、欠点は何ですか。

AI規制に対する文脈ベースのアプローチは、原則として妥当です。そのアプローチを真に効果的なものとするためには、文脈とは包括的なものであり、技術そのもののあらゆる側面に加え、それが使用される特定の領域の文脈も含むことを強調したいと考えます。市場参加者との対話経験から見ても、医療、金融、自動車など、業界ごとに技術の構築・実装への取り組み方は異なります。さらに、この文脈ベースのアプローチは、重点を絞ったものであること（最小限の介入で最大の効果を得るため）および明確であること（市場参加者が自らの義務を容易に理解できるようにするため）が求められます。その潜在力を発揮するには、追加の政策およびガイダンスによる補完が必要となるでしょう。

AI技術がもたらす共通の課題とリスクを網羅するため、分野横断的な原則のセットを設けるべきだとお考えですか。提案されている分野横断的原則は、AI技術がもたらす共通の論点とリスクをカバーしていますか。足りないものがあれば何ですか。

慎重に設計された原則は、機能性の高いAIエコシステムの強固な基盤となります。しかし、私たちの経験では、原則だけでは十分に至らないことがほとんどです。原則は曖昧な概念になりがちで、実際の場面で行動可能な洞察へと翻訳するのが難しいからです。たとえば、AIシステムは公正かつ安全であるべきだという点には多くの人が同意するでしょうが、具体的な実務状況において「公正」と「安全」が何を意味するのかについては、はるかに幅広い見解の相違が生じます。市場参加者にとっては、明確に定義され、一貫して確実に適用できる義務のセットがあることが大きな利点となります。したがって、原則を実務上効果的に採用できるようにするためには、より具体的な要件による支援が必要です。

原則と、そこから導かれる具体的要件との間で、どの程度の具体性が適切かについては、慎重に均衡を取る必要があります。すべての分野に適用される、AIを規律する詳細な要件のセットを設けると、特定の状況には適さない硬直的な規制となる可能性があります。この限界を踏まえ、私たちは文脈重視のアプローチを支持します。しかしその一方で、細部の多くを分野レベルで定義することに任せすぎると、不整合な適用が生じるリスクがあり、それは制度への信頼を損ない、AIに関する英国の法の支配に対する評価を傷つけるおそれがあります。したがって、このアプローチもまた理想的とは言えません。

後者のアプローチには、実務上の重大な影響があることを指摘しておくことが重要です。業界ごとにはニュアンスの違いがあるものの、分野単位で明確な切れ目があるわけではなく、実際には異なる業界でこれらの技術が利用される場面が大きく重複することがよくあります。各分野の規制当局は、それぞれ中核原則を独自に解釈せざるを得ず、その結果、制度はすぐに断片化し、不整合になり、把握しにくくなるでしょう。この複雑さを認識し、整合性を確保するために全体的なレベルで追加の明確性をもたらそうとするアプローチは、本提案に歓迎すべき追加要素となります。

私たちのアプローチを最善の形で実装する方法について、現時点でのご見解はありますか。ご覧のとおり、重要な実務上の考慮事項にはどのようなものがありますか。規制システムには、私たちのアプローチを実現するために何が必要でしょうか。規制当局によるAIに関するガイダンスを、どのように最適に整理・調整できるでしょうか。

提案を法的拘束力のない枠組みに置くという示唆は理解できます。AI分野がいかに新しいかを踏まえると、あらゆる枠組みには進化のプロセスが必要であり、法的拘束力のない枠組みであれば、急速な進化に必要な迅速なフィードバックループを確保できます。一方で、法的拘束力のない枠組みでは、法定の取り組みが得るであろうのと同等の関与や市場参加は期待しにくいという欠点があります。非遵守に対する「実効性」を欠く任意的なガイダンスは、市場から大きく無視されるおそれがあります。任意のAI倫理原則や枠組みの状況はすでに非常に多様かつ雑然としており、限られた資源と多くの競合する要請の中では、市場参加者は代わりに他のグローバルな制度、たとえばEU AI Actや、関連業界内で既に確立されている特定の枠組みへの適合を優先すると考えられます。

法定の枠組みから始める利点は、本提案がより真剣に受け止められ、より強い関与を得られることです。本提案が迅速かつ効果的に進化していくために必要なフィードバックループは、サンドボックスの取り組みを通じて実現できます。最終的に、これを法定の枠組みに置くかどうかは政治的判断ですが、もしそうするのであれば、私たちはそのような移行を支持します。安全で堅牢なAIにおいて、英国をプロイノベーションのリーダーとして確立する余地はあると考えています。政策文書で提起され、ここで回答した多くの論点に対応する議会制定法は、その目標達成に一定程度寄与するでしょう。

複数の法域で事業を展開する企業にとって、何らかの課題が生じると予想されますか。越境取引と国際協力を最も効果的に支援するうえで、私たちのアプローチがどのように役立つかについて、初期的なご見解はありますか。

政策文書は、このデジタル時代において、この分野における規制上の取り組みが、他の国内および国際的な枠組みとどのように相互作用するかについて、十分な注意と配慮を払うべきであると適切に指摘しています。前述のとおり、現在、多くの他法域が独自のAI規制および政策を導入しています。

世界中の市場参加者は、通常、法域間で調和されたAI規制アプローチから利益を得るでしょう。また、英国におけるいかなる制度も、こうした新たに形成されつつある世界標準を補完し、英国市民の利益につながることが期待されます。越境取引や国際協力に関するより広範な検討事項は、この政策文書で扱われている論点の外側で対処する方が適切と考えられます。

‍

当局レベルおよびシステムレベルの双方で、私たちのアプローチの有効性を監視するために有用な、堅牢なデータソースをご存じですか。

はい。現在私たちが構築しているソフトウェアプラットフォームにより、規制当局は、システム全体レベルおよび個々の規制当局レベルの双方で、そのアプローチの有効性を監視できるようになります。私たちはすでに、詳細なAI原則を実装し、組織全体でこれらの原則への準拠を測定し、自社のシステムを可能な限り堅牢かつ安全に保つための効果的なガバナンスゲートを確立するうえで、当社のプラットフォームを活用している主要な設計パートナーと協働しています。この点について、私たちの知見を共有するため、人工知能局とさらに連携できれば幸いです。

‍

Enzaiは、抽象的な方針から運用上の統制へと組織が移行するのを支援するために特別に設計された、業界をリードするエンタープライズ向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を実現するために必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業が世界標準である ISO 42001 や NISTとの整合性を維持しながら、確信をもってAI導入を拡大できるよう支援します。