英国政府の人工知能局（Office for Artificial Intelligence）が公表した、最近の政策文書「AI規制におけるプロ・イノベーション・アプローチの確立」に対する当社の回答を共有できることを嬉しく思います。これまでこの非常に重要なテーマに取り組んでこられた人工知能局のご尽力に感謝申し上げるとともに、今後の議論に参加できることを大変光栄に思います。Enzai が、変化し続ける AI規制への対応をどのように支援できるかをご覧ください。

メールでのお問い合わせ先： evidence@officeforai.gov.uk

「AI規制におけるプロ・イノベーション・アプローチの確立」と題された、2022年7月20日付政策文書（以下「政策文書」）への回答

はじめに、Enzai は北アイルランドのベルファストに設立された新しいスタートアップ企業です。2021年8月に、ライアン・ドネリー（企業法務および規制法務の第一人者である弁護士）とジャック・カーライル（経験豊富なソフトウェアエンジニア）によって創業され、私たちは、強力な人工知能（「AI」）技術が将来にわたり社会全体の利益のために活用されることを確実にするという使命に取り組んでいます。

私たちは、AIに伴う重大なリスクから保護することに特に注力しています。当社のソフトウェアプラットフォームを通じて、お客様は自社のAIシステムをAI開発のベストプラクティスにおけるゴールドスタンダードと比較評価し、組織全体におけるAIガバナンスの集約的な状況を把握し、必要なガバナンス上のチェック・アンド・バランスをシステムに適用して、その成功を確かなものにできます。これにより、当社は、お客様がより安全で堅牢なシステムを構築し、その技術を利用する個々の組織だけでなく、社会全体にも利益をもたらすことを可能にします。

私たちは、規制の力を推進力として捉えており、AI分野におけるイノベーションを前進させる可能性を有すると考えています。これほど強力な技術には、将来の発展が企業と社会の双方に利益をもたらすよう、適切な手綱を備えておく必要があります。これは、英国にとって極めて大きな機会です。創業者の法務バックグラウンドを踏まえ、英国が有する規制制度と法の支配に関する国際的評価の高さを強く認識しています。私たちは、英国が、知的な規制枠組みのもとで、AI分野における相当な人材と投資を引き付ける上で、他に類を見ない立場にあると確信しています。この機会を最大限に活かすためには、いかなる規制枠組みも以下の原則を考慮すべきです。すなわち、(1) 対象を絞り、規制が最小限の介入で最大の効果を発揮すること、(2) 文脈に応じ、当該技術およびそれが適用される領域の固有の事情を考慮すること、(3) 明確であり、市場参加者が何を期待されているのかを確実に理解できること、です。

この目的に照らし、本政策文書で提示された提案を、英国をイノベーション推進型のAI法域として確立するための重要な一歩として歓迎します。以下、本政策文書で提起された個別の質問に対する当社の回答をお示しします。

当社のAI規制に対する現行アプローチにおける最も重要な課題は何だとお考えですか。最も重要なギャップ、重複、または矛盾についてご意見はありますか。

一般的なコメントとして、政策文書で示されたリスクベースのアプローチは、本提案にとって妥当な出発点です。ただし、いかなる規制介入も、上記の原則に適合することが必要である点を強調したいと考えます。

政府が、AIそのものではなくAIの利用を規制したいと考えていることは認識しています。しかし、AIの利用に伴う下流の影響のみに焦点を当てるのは、あまりに単純化しすぎているというのが当社の見解です。規制枠組みは、AIライフサイクルのあらゆる側面を考慮に入れた包括的なものであるべきであり、システムの安全性と堅牢性を確保する必要があります。データセットのキュレーションや準備といった上流工程、モデル化、学習、テスト、評価といった中流工程など、開発ライフサイクルの他の側面に対して適切な指針を示さないままでは、曖昧さと混乱が大きく残ります。高リスクな影響可能性を有するシステムについて、開発ライフサイクル全体を通じて市場参加者に合理的な期待を課すことは、アプローチに望ましい補完となるでしょう。これは、一定レベルの技術文書の作成や、これらのAI形態に対するリスク管理システムの構築を求める形で実現し得ます。当社が構築しているソフトウェアプラットフォームは、これらの要件が市場参加者に課し得ると見なされる事務負担を大幅に軽減するうえで大いに役立つでしょう。

AIの定義に関して政策文書で提示されたアプローチは興味深く、「コア特性」に基づく解釈という考え方は魅力的です。しかし、当社としては、さらに踏み込む余地があると考えます。解釈を助けるために、AIと明確にみなせる技術の網羅的な一覧を作成することは可能でしょう。そのうえで、コア特性の分析は境界事例に適用し、新たなAIが発明され次第、AI技術の一覧に追加していくことができます。とはいえ、この対応が規制当局に事務負担を課すことも理解しています。したがって、この特定の提案の可能性について、さらなる議論を歓迎します。

当社は、この分野が現在、自然発生的かつ場当たり的な形で（急速な速度で）発展しており、そのため市場参加者にとってナビゲートが極めて困難になっているという認識が示されたことを歓迎しました。多くの政府機関がそれぞれ異なる枠組み、ロードマップ、指針を公表しており、把握が困難になっています。これは大きな課題であると考えており、市場参加者が対話し参照できる単一の信頼できる情報源を設けることで、英国のAI関連機関と政策立案者を大幅に簡素化すべきだと考えます。この提案は、政策文書で推奨されている業種別アプローチに矛盾することを意図するものではありません。むしろ、この単一の信頼できる情報源のアプローチが、必要に応じて参加者を各業種固有の枠組みや規制当局へ導くべきです。

‍

本紙で示された、英国の確立された規制当局を通じて提供される文脈重視のアプローチにご同意いただけますか。このアプローチの利点は何だとお考えですか。欠点は何ですか。

AI規制における文脈ベースのアプローチは、原則として妥当です。アプローチを真に有効なものとするためには、文脈とは技術そのもののあらゆる側面に加え、それが使用される特定の領域の文脈を含む、包括的なものである必要があると強調したいと思います。市場参加者との対話経験から、医療、金融、自動車などの各業界は、技術の構築および実装に対して異なるアプローチを採っていることがわかります。さらに、文脈ベースのアプローチは、最大限の効果を最小限の介入で実現できるよう対象を絞り、かつ市場参加者が自らの義務を容易に理解できるよう明確でなければなりません。その潜在力を十分に発揮するには、文脈ベースのアプローチを追加の政策と指針で補完する必要があります。

全体的なアプローチを導くための分野横断的な原則のセットを設けるべきだとお考えですか。提案されている分野横断的な原則は、AI技術がもたらす共通の問題とリスクを網羅しているでしょうか。不足している点があればご教示ください。

慎重に構築された原則は、非常に機能的なAIエコシステムの強固な基盤となります。しかし、当社の経験では、原則だけでは十分に行き届かないことが少なくありません。原則は、実際の行動可能な示唆へと落とし込むのが難しい、曖昧な概念になりがちです。たとえば、AIシステムは公平で安全であるべきだという点には多くの人が同意するでしょうが、実際の具体的な状況において公平かつ安全が何を意味するのかについては、見解が大きく分かれるでしょう。市場参加者は、確実性をもって一貫して適用できる、明確に定義された義務のセットから大きな恩恵を受けます。したがって、原則が実務で効果的に採用されるためには、より具体的な要件によって裏づけられる必要があります。

原則と、そうした具体的要件のどこに適切な詳細度を置くべきかについては、バランスが重要です。AIを規制する詳細な要件をすべての業種に適用する形で設けると、特定の状況に適さない硬直的な規制になりかねません。この限界を認識し、当社は文脈に応じたアプローチを支持します。しかしその一方で、詳細の多くを業種別レベルに委ねすぎると、提案が一貫性のない適用のリスクにさらされ、制度への信頼を損ない、AIに関する英国の法の支配としての評価を損ねることになります。したがって、このアプローチもまた理想的ではありません。

後者のアプローチには、実務上の大きな影響があることを指摘することが重要です。業界ごとのニュアンスはあるものの、業種ベースで明確な境界線はありません。実際には、異なる産業におけるこれらの技術の利用には、しばしば大きな重なりがあります。各業種の規制当局は、中核原則について独自の解釈を行わざるを得ず、その結果、すぐに断片化し、一貫性を欠き、把握が難しくなります。この複雑さを認識し、一貫性を確保するために包括的なレベルでさらなる明確化を加えるアプローチは、本提案に歓迎すべき追加要素となるでしょう。

当社のアプローチを最善の形で実装する方法について、現時点でご見解はありますか。ご意見として、重要な実務上の考慮事項にはどのようなものがありますか。規制システムには、当社のアプローチを実現するために何が求められるでしょうか。規制当局からのAIに関する指針を、どのように最も効果的に整理し、連携させることができるでしょうか。

提案を法定外の枠組みとするという提案は理解できます。この分野は非常に新しく、あらゆる枠組みには進化のプロセスが必要であり、法定外の枠組みであれば、急速な進化に必要な迅速なフィードバックループを実現できます。法定外の枠組みの欠点は、法定の取り組みほどの関与や市場参加を得られないことです。遵守しなくても実質的な影響がない法定外のガイダンスは、市場に大きく無視される可能性があります。任意のAI倫理原則や枠組みの状況はすでに非常に多様で雑然としており、限られた資源と多くの競合する要請の中で、市場参加者は代わりに、EU AI Actや、それぞれの関連業界内ですでに確立されている特定の枠組みなど、他のグローバルな制度への対応を優先すると考えられます。

法定の枠組みから始める利点は、提案がより真剣に受け止められ、より強い関与を得られることです。提案が迅速かつ効果的に進化するために必要なフィードバックループは、サンドボックスの取り組みによって実現できます。これを法定の枠組みにするかどうかは最終的には政治的判断ですが、そうするのであれば当社は支持します。安全で堅牢なAIにおけるイノベーション推進のリーダーとして英国を位置付ける余地があると考えています。政策文書で提起され、ここで回答した多くの論点に対処する議会制定法は、この目標の達成に向けて一定の前進となるでしょう。

複数の法域で事業を展開する企業にとって、何らかの課題が生じると予想されますか。国境を越える取引や国際協力を最も効果的に支援するために、当社のアプローチがどのように役立つかについて、初期のご見解はありますか。

政策文書は、このデジタル時代において、この分野でのいかなる規制イニシアチブも、他の国内および国際的な枠組みとの相互作用をどのように持つかについて、十分な注意と検討を払うべきであると正しく示しています。述べたとおり、他の多くの法域でも、独自のAI規制や政策の導入が進んでいます。

世界中の市場参加者は、一般に、法域をまたぐAI規制について調和の取れたアプローチから恩恵を受けるでしょう。また、英国におけるいかなる制度も、新たに形成されつつあるこうした国際基準を補完し、英国市民の利益につながることが期待されます。国境を越える取引や国際協力に関するより広範な論点は、本政策文書で扱われている問題の外で検討するほうが適切でしょう。

‍

個別の規制当局レベルおよび制度全体のレベルの両方で、当社のアプローチの有効性を監視するために役立つ、堅牢なデータソースをご存じですか。

はい。現在構築中のソフトウェアプラットフォームにより、規制当局は制度全体レベルと個別の規制当局レベルの両方で、そのアプローチの有効性を監視できるようになります。私たちはすでに、当社のプラットフォームを活用して詳細なAI原則を実装し、組織全体でこれらの原則に対するコンプライアンスを測定し、システムを可能な限り堅牢かつ安全に保つための効果的なガバナンス・ゲートを確立している、いくつかの主要なデザインパートナーと協業しています。これらの学びを共有するため、人工知能局とのさらなる対話を歓迎します。

‍

AI規制に関する米国および欧州のアプローチについては、Enzai のブログで詳しくご覧いただけます。

‍