英国政府の人工知能局による、最近の政策文書「Establishing a pro-innovation approach to regulating AI」への当社の回答を共有できることを、うれしく存じます。これまでこの極めて重要なテーマに取り組んでこられた人工知能局のご尽力に感謝申し上げるとともに、今後の議論に参画できることを大変光栄に存じます。Enzai が、進化し続ける AI規制への対応をどのように支援できるかをご覧ください。

電子メール送付先： evidence@officeforai.gov.uk

2022年7月20日付の「Establishing a pro-innovation approach to regulating AI」と題された政策文書（以下「Policy Paper」）への回答

まず、Enzai は北アイルランドのベルファストで設立された新しいスタートアップ企業です。2021年8月に、著名な企業・規制法務弁護士である Ryan Donnelly と、経験豊富なソフトウェアエンジニアである Jack Carlisle によって創業され、当社は、強力な人工知能（「AI」）技術が将来にわたり社会全体の利益のために活用されるようにすることを使命としています。

当社は、AIに伴う重大なリスクの防止に特に注力しています。当社のソフトウェアプラットフォームにより、お客様は、自社のAIシステムをAI開発実務のゴールドスタンダードと照らして評価し、組織全体におけるAIガバナンスの総合的な状況を把握し、必要なガバナンス上の牽制と均衡をシステムに適用して、その成功を確かなものにできます。これにより、当社は、お客様が、これらの技術を利用する個々の組織だけでなく社会全体にも資する、より安全で堅牢なシステムを構築できるよう支援しています。

当社は、規制は促進的な力であり、AI分野におけるイノベーションを前進させる潜在力を持つと固く信じています。これほど強力な技術には、将来の発展がビジネスと社会の双方に利益をもたらすよう、適切なガードレールが必要です。これは英国にとって大きな機会を意味します。創業者の法務的背景を踏まえると、英国が規制制度と法の支配において世界的に高い評価を得ていることを、当社は強く認識しています。当社は、英国が知的な規制枠組みによって、AI分野における豊富な人材と投資を引き付ける上で、独自の優位性を有していると確信しています。この機会を最大化するため、いかなる規制枠組みも以下の原則を考慮すべきです。すなわち、(1) 規制が最小限の介入で最大の効果を発揮できるよう、ターゲットを絞ったものであること、(2) 技術および適用される分野の固有の状況を踏まえた、コンテキスト主導であること、(3) 市場参加者が何を期待されているのかを確実に理解できるよう、明確であること、です。

この目的に照らし、本政策文書で示された提案を、英国をイノベーション促進型のAI管轄区域として確立するための重要な一歩として歓迎いたします。以下では、政策文書で提起された個別の質問に対する当社の回答をお示しします。

AIを規制する現行アプローチにおける最も重要な課題は何ですか。最も重要な欠落、重複、矛盾についてご意見はありますか。

一般的なコメントとして、政策文書で示されたリスクベース・アプローチは、本提案の妥当な出発点だと考えます。ただし、いかなる規制介入も上記の原則に適合することが不可欠である点を強調したいと思います。

政府が、AIそのものではなくAIの利用を規制しようとしている点は理解できます。しかし、AIの利用に伴う下流の影響のみに焦点を当てるのは、あまりにも単純化しすぎています。規制枠組みは、システムの安全性と堅牢性を確保するため、AIライフサイクルのあらゆる側面を考慮した、包括的なものであるべきです。開発ライフサイクルの他の側面、たとえば上流のデータセットの選定・整備や、中流のモデリング、学習、テスト、評価といった作業に適切なガードレールを設けないままでいると、曖昧さと混乱の余地が大きく残ります。高リスクの影響可能性を持つシステムについて、開発ライフサイクル全体を通じて市場参加者に合理的な期待を課すことは、望ましい追加要素となるでしょう。これは、このようなAIに対して一定レベルの技術文書の整備とリスク管理システムの構築を求める形をとり得ます。なお、当社が構築しているソフトウェアプラットフォームは、これらの要件が市場参加者にもたらすと見なされ得る事務負担を大幅に軽減するうえで、非常に有用であると考えています。

AIの定義に関して政策文書で示されたアプローチは興味深く、「コア特性」に基づく解釈という考え方には魅力があります。しかし、これをさらに進める余地があるとも考えます。解釈を助けるため、AIと明確に考えられる技術の網羅的な一覧を作成することも可能でしょう。その上で、境界事例にはコア特性分析を適用し、新たなAIが発明されるたびに、その技術をAI技術のリストに追加することができます。とはいえ、これが規制当局に事務負担を課すことも理解しています。したがって、この特定の提案の可能性について、さらなる議論を歓迎いたします。

現在、この分野が有機的かつ場当たり的に（急速なペースで）発展してきたため、市場参加者が対応するのが極めて難しいという認識が示されたことを歓迎します。政府機関ごとに異なるフレームワーク、ロードマップ、ガイドラインが公表されており、把握が困難になっています。これは大きな課題であると認識しており、市場参加者が参照・対話できる単一の信頼できる情報源を設けることで、英国のAI関連機関および政策立案者を大幅に簡素化すべきだと考えます。この提案は、政策文書で提唱されているセクター別アプローチと矛盾することを意図したものではありません。むしろ、この単一の信頼できる情報源のアプローチが、必要に応じて参加者を各分野固有の枠組みや規制当局へと導くべきです。

‍

本書で示された、英国の確立された規制当局を通じて実施されるコンテキスト主導アプローチに同意されますか。このアプローチの利点は何だとお考えですか。欠点は何ですか。

AIを規制するうえでのコンテキスト主導アプローチは、原則として妥当です。本アプローチを真に有効なものとするためには、コンテキストとは包括的なものであり、技術そのもののあらゆる側面に加え、それが使用される具体的な分野の状況も含む、という点を強調したいと思います。市場参加者との対話経験から、医療、金融、自動車など業界ごとに、技術の構築・実装に対するアプローチは異なります。さらに、コンテキスト主導アプローチは、最大の効果を最小の介入で得るためにターゲットを絞ったものであり、また市場参加者が自らの義務を容易に理解できるよう明確でなければなりません。その潜在力を発揮するには、追加の政策およびガイダンスによる補完が必要です。

AIに対する全体的なアプローチを導くため、業横断的な原則のセットを設けるべきだというご意見に同意されますか。提案されている業横断的原則は、AI技術がもたらす共通の論点とリスクを十分にカバーしていますか。不足しているものがあれば教えてください。

慎重に設計された原則は、機能的なAIエコシステムの強固な基盤となります。しかし、当社の経験では、原則だけでは十分に及ばないことが少なくありません。原則は抽象的であり、現実の実務で実行可能な示唆へ落とし込むことが難しい概念になりがちです。たとえば、AIシステムは公正で安全であるべきだと多くの人が同意するでしょうが、具体的な実務シナリオにおいて「公正」と「安全」が実際に何を意味するのかについては、はるかに大きな見解の相違が生じます。市場参加者は、明確に定義され、一貫して適用できる義務の集合を得ることで大きな恩恵を受けます。したがって、原則が実務上効果的に採用されるようにするには、より具体的な要件による支えが必要です。

原則と、それに対応する具体的要件の間で、どこに適切な具体性を置くべきかについては、慎重な均衡が必要です。AIを規制する詳細な要件を全分野に共通して適用すると、場合によっては適切ではない、硬直的な規制になり得ます。この限界を踏まえ、当社はコンテキスト主導アプローチを支持します。しかし一方で、詳細の定義を分野レベルに委ねすぎると、一貫性のない適用につながるリスクがあり、制度への信頼を損ない、AIに関する英国の法の支配に対する評価を傷つけるおそれがあります。したがって、このアプローチも理想的とは言えません。

後者のアプローチには、実務上大きな影響があることを指摘する必要があります。業界ごとの差異はあるものの、分野別に明確な境界線があるわけではありません。実際には、異なる産業におけるこれらの技術の利用には、大きな重なりがしばしば存在します。各分野の規制当局は、それぞれコア原則を独自に解釈せざるを得ず、そうした状況はすぐに断片化し、一貫性を欠き、扱いにくいものとなるでしょう。この複雑さを認識し、一貫性を確保するために全体レベルで追加の明確化を行うアプローチは、本提案に歓迎すべき追加要素となります。

本アプローチを最善に実装する方法について、現時点でお考えはありますか。ご見解では、重要な実務上の検討事項にはどのようなものがありますか。規制システムは、本アプローチを実現するために何を満たす必要がありますか。規制当局によるAIに関するガイダンスを、どのように最も効果的に整理・調整できるでしょうか。

本提案を法定でない枠組みとして進めるという提案には理解を示します。まだ新しい分野であるため、あらゆる枠組みには継続的な進化プロセスが必要であり、法定外の枠組みであれば、急速な進化に必要な迅速なフィードバックループを実現できます。法定外の枠組みの欠点は、法定施策と同じレベルの関与や市場参加を得にくい点です。違反に対する実効性が乏しい法定外ガイダンスは、市場から大きく無視される可能性があります。任意のAI倫理原則や枠組みの状況は、すでに非常に多様で雑然としています。限られた資源と多くの競合要件がある中で、市場参加者はむしろ、EU AI法や、すでに自社の関連業界で確立されている特定の枠組みなど、他のグローバルな制度への遵守を優先すると考えられます。

法定の枠組みから始める利点は、本提案がより真剣に受け止められ、より強い関与を得られることです。本提案を迅速かつ効果的に進化させるために必要なフィードバックループは、サンドボックスの取り組みによって実現できます。これを法定の枠組みにすべきかどうかは、最終的には政治的な判断です。しかし、そうするのであれば、そのような移行を支持します。当社の見解では、英国を、安全かつ堅牢なAIにおけるイノベーション促進のリーダーとして確立する余地があります。本政策文書で提起され、ここで回答した多くの論点に対応する議会制定法は、その目標の達成に向けて大きく前進させるでしょう。

複数の法域で事業を展開する企業にとって、何らかの課題が生じると予想されますか。越境貿易と国際協力を最も効果的に支援するために、本アプローチがどのように役立ち得るかについて、現時点でお考えはありますか。

政策文書は、デジタル時代において、この分野でのいかなる規制施策も、他の国内・国際的な枠組みとどのように連携するかについて十分な配慮を払うべきであると正しく指摘しています。すでに述べたとおり、他の多くの法域でも独自のAI規制や政策が導入されています。

世界中の市場参加者は、一般に、法域を越えてAI規制が調和しているアプローチの恩恵を受けるでしょうし、英国におけるいかなる制度も、英国の市民の利益のために、こうした新たなグローバル基準を補完することが期待されます。越境貿易および国際協力に関するより広範な検討は、本政策文書で扱う論点の外で対処されるほうが適切でしょう。

‍

個別の規制当局レベルとシステム全体レベルの双方で、本アプローチの有効性を監視するために役立つ、信頼性の高いデータソースをご存じですか。

はい。当社が構築しているソフトウェアプラットフォームにより、規制当局は、システム全体レベルと個別の規制当局レベルの双方で、本アプローチの有効性を監視できるようになります。当社はすでに、詳細なAI原則を実装し、組織全体でこれらの原則への準拠を測定し、システムが可能な限り堅牢かつ安全であることを確保するための効果的なガバナンス・ゲートを確立するうえで、当社プラットフォームを活用している主要な設計パートナーと協業しています。この点に関する当社の学びを共有するため、人工知能局とさらに連携できれば幸いです。

‍

Enzai は、抽象的な方針を実効的なガバナンスへと移行させるために特別に設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、ならびにEU AI法の遵守を実現するために必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzai は、ISO 42001 および NISTといった国際基準との整合性を維持しながら、企業が安心してAI導入を拡大できるよう支援します。