英国政府の人工知能局（Office for Artificial Intelligence）による最近の政策文書「AI規制へのイノベーションを促進するアプローチの確立（Establishing a pro-innovation approach to regulating AI）」に対する弊社の回答を共有できることを嬉しく思います。人工知能局による、これまでに行われたこの非常に重要なテーマに関する取り組みに感謝するとともに、今後の議論に参画できることを大変嬉しく思っております。進化するAI規制への対応において、Enzaiがどのように皆様をサポートできるかをご覧ください。

Eメール宛先：evidence@officeforai.gov.uk

2022年7月20日付の政策文書「AI規制へのイノベーションを促進するアプローチの確立」（以下「本政策文書」）に対する回答

はじめに、Enzaiは北アイルランドのベルファストに設立された新興のスタートアップ企業です。ライアン・ドネリー（著名な企業法・規制関連の弁護士）とジャック・カーライル（経験豊富なソフトウェアエンジニア）によって2021年8月に設立された弊社は、強力な人工知能（「AI」）技術が将来的に社会全体の利益のために確実に活用されるようにすることをミッションとして掲げています。

弊社は、AIに伴う重大なリスクに対する防御に特に焦点を当てています。弊社のソフトウェアプラットフォームを通じて、お客様は自社のAIシステムをAI開発プラクティスのゴールドスタンダードに照らし合わせてベンチマーク評価し、組織全体の統合されたAIガバナンスの状況を把握し、システムの成功を確実にするために必要なガバナンスのチェックとバランスを課すことができます。これにより、お客様がより安全で堅牢なシステムを構築できるように支援し、技術を利用する個々の組織だけでなく、社会全体にも利益をもたらします。

私たちは、規制の力をイノベーションを促進するための原動力であり、AI分野のイノベーションを前進させる可能性を秘めていると確信しています。これほど強力な技術には、将来の発展がビジネスや社会に利益をもたらすよう、賢明なガイドレールを設ける必要があります。これは、英国にとって極めて大きなチャンスとなります。創業者たちの法的なバックグラウンドから、弊社は規制体制と法の支配に関する英国のグローバルな評価を痛感しています。私たちは、英国がインテリジェントな規制の枠組みによって、AI分野で多大な人材と投資を引きつける独自の立場にあると確信しています。この機会を最大限に活用するために、あらゆる規制の枠組みは以下の原則を考慮すべきです。すなわち、(1) 最低限の介入で最大の効果を発揮するように「ターゲットを絞り込む」こと、(2) 技術およびそれが適用される領域の固有の状況を考慮して「文脈主導（コンテキストベース）」であること、(3) 市場参画者が期待されることに対して確信を持てるよう「明確」であることです。

この目的を達成するために、私たちは英国をイノベーション促進型のAI管轄地域として確立するための重要な一歩として、本政策文書で示された提案を歓迎します。以下に、本政策文書で提起された個々の質問に対する弊社の回答を提示いたします。

現行のAI規制アプローチにおける最も重要な課題は何ですか。最も重要なギャップ、重複、または矛盾についてご意見をお聞かせください。

総評として、本政策文書で示されているリスクベースのアプローチは、この提案の出発点として妥当なものです。私たちは、いかなる規制介入も上記の原則に適合させる必要があることを強調したいと思います。

政府がAIそのものではなく、AIの「利用」を規制することを望んでいることに留意します。AIの利用に関する川下の影響のみに焦点を当てることは、あまりにも単純化しすぎているというのが弊社の見解です。規制の枠組みは、システムが安全で堅牢であることを保証するために、AIライフサイクルのすべての側面を考慮した包括的なものであるべきです。開発ライフサイクルの他の側面（データセットのキュレーションや準備といった川上のタスク、モデリング、トレーニング、テスト、評価といった川中のタスクなど）に対して適切なガイドレールを提供できない場合、曖昧さや混乱が生じる大きな余地が残されます。リスクの高い影響を及ぼす可能性のあるシステムについて、開発ライフサイクル全体を通じて市場参画者に合理的な期待値を課すことは、このアプローチへの好ましい追加となるでしょう。これは、これらの形態のAIに対する技術文書のレベルの要求やリスク管理システムの構築という形をとることができます。弊社が構築しているソフトウェアプラットフォームは、これらの要件が市場参画者に課すと考えられる管理上の負担を大幅に軽減するのに大いに役立ちます。

本政策文書で提案されているAIの定義に関するアプローチは興味深く、「コアとなる特徴（コアナチュラル）」に基づく解釈というコンセプトは魅力的です。しかし、弊社はこれをさらに進めることができると考えています。解釈を容易にするために、AIと明確に見なされる技術の網羅的なリストを作成することが可能です。その後、境界線の事例にコア特性分析を適用し、新たなAIが発明された時点でAI技術のリストに追加することができます。とは言え、これが規制機関に管理上の負担を課すことになることも認識しています。したがって、この特定の提案の可能性について、さらなる議論を行うことを歓迎します。

現在、この分野が有機的かつ行き当たりばったりの方法で（急速なペースで）進化しており、これが市場参画者にとってナビゲートを極めて困難にしているという認識を拝読し、嬉しく思いました。多くの政府機関が異なる枠組み、ロードマップ、ガイドラインを公開しており、それらを把握することが困難になっています。私たちはこれを重要な課題と捉えており、市場参画者が対話し、参照できる単一の信頼できる情報源（Single Source of Truth）によって、英国のAI機関および政策立案者を大幅に簡素化することを望んでいます。この提案は、本政策文書で支持されているセクター別のアプローチを否定するものではありません。むしろ、この単一の信頼できる情報源アプローチが、必要に応じて参画者をセクター固有の枠組みや規制機関へと導くべきです。

‍

本書で示されている、英国の確立された規制機関を通じて実施される文脈主導（コンテキストベース）のアプローチに同意しますか。このアプローチのメリットは何だと思いますか。デメリットは何ですか。

AIを規制するための文脈主導（コンテキストベース）のアプローチは、原則として理にかなっています。このアプローチが真に効果的であることを保証するために、私たちは「文脈（コンテキスト）」がすべてを包含するものであることを強調します。それには技術自体のあらゆる側面と、それが使用される特定のドメインの文脈が含まれます。市場参画者との対話の経験から、異なる業界セクター（ヘルスケア、金融、自動車など）は、技術の構築や導入に対して異なるアプローチをとっています。さらに、文脈主導のアプローチは、ターゲットを絞り（最小限の介入で最大の効果を保証するため）、かつ明確（市場参画者が自らの義務を容易に理解できるようにするため）である必要があります。その可能性を最大限に引き出すために、文脈主導のアプローチは、追加のポリシーやガイダンスによって補完される必要があります。

全体的なアプローチを導くために、分野横断的な原則を確立すべきであるという意見に同意しますか。提案されている分野横断的な原則は、AI技術がもたらす共通の課題やリスクをカバーしていますか。もしあれば、何が不足していますか。

慎重に構築された原則は、高度に機能するAIエコシステムのための強固な基盤となります。しかし、弊社の経験では、原則だけでは不十分な場合が多々あります。それらは抽象的な概念になりがちで、現実世界の実行可能なインサイトに変換するのが困難です。例えば、AIシステムは公平で安全であるべきだという点には多くの人が同意するでしょうが、特定の現実的なシナリオにおいて「公平」かつ「安全」が実際に何を意味するかについては、見解が大きく分かれることになります。市場参画者は、確実性を持って一貫して適用できる、明確に定義された一連の義務から多大な恩恵を受けることになります。したがって、原則が実際に効果的に採用されるためには、より具体的な要件によって裏付けられる必要があります。

原則とそれらの具体的な要件の間で、適切な具体性のレベルがどの位置にあるべきかについては、バランスをとる必要があります。すべてのセクターに適用される、AIを規制する詳細な要件セットを確立することは、特定の状況において目的に適さない厳格な規制につながる可能性があります。この限界を認識した上で、私たちは文脈主導のアプローチを支持します。しかし、逆に、詳細の多くをセクターレベルでの定義に委ねすぎることは、一貫性のない適用というリスクをこの提案にもたらし、制度への信頼を損ない、AIに関する法の支配に対する英国の評価を傷つけることになります。したがって、このアプローチも理想的とは言えません。

後者のアプローチには、重大な実務上の影響があることを指摘しておくことが重要です。産業セクター間のニュアンスの違いにもかかわらず、セクターごとに明確な境界線はありません。実際、異なる産業におけるこれらの技術の利用には、大幅な重複があることがよくあります。各セクターの規制機関は、コアとなる原則に対して独自の解釈を下さなければならず、これは瞬く間に断片化し、不整合が生じ、ナビゲートが困難なものになります。この複雑さを認識し、一貫性を確保するために全体的なレベルでさらなる明確さを加えようとするアプローチは、本提案への好ましい追加となるでしょう。

本アプローチを最適に実施する方法について、初期の意見はありますか。皆様の観点から、重要な実務上の考慮事項にはどのようなものがありますか。本アプローチを達成するために、規制制度には何が必要ですか。規制機関からのAIに関するガイダンスを最も効果的に合理化・調整するにはどうすればよいでしょうか。

本提案を非法的（法的な強制力を持たない）位置づけにするという推奨アプローチは理解できます。この分野が非常に新しいものであることを考えると、すべての枠組みには必要な進化のプロセスが存在し、非法的立場をとることで、急速な進化が必要とする迅速なフィードバックループが可能になります。一方で、非法的な位置づけのデメリットは、法的イニシアチブの場合に得られたであろうレベルのエンゲージメントや市場参画が得られないことです。不遵守に対する「罰則」を伴わない非法的なガイダンスは、市場によって大方無視される可能性があります。自主的なAI倫理の原則や枠組みのランドスケープは、すでに非常に多様で騒がしいものです。限られたリソースと多くの競合する要求の中で、市場参画者は、他のグローバルな規制体制（EU AI法や、該当する産業セクター内ですでに確立されている特定の枠組みなど）への準拠を確実にすることに焦点を当てるのではないかと推測されます。

法的な位置づけから始めることのメリットは、本提案がより真剣に受け止められ、より強力なエンゲージメントを得られることです。本提案が迅速かつ効果的に進化することを保証するために必要なフィードバックループは、サンドボックス（実証実験）の取り組みを通じて達成できる可能性があります。これを法的な位置づけにするかどうかは最終的には政治的な判断ですが、もしそうなれば、弊社はそのような動きを支持します。安全で堅牢なAIにおけるイノベーション促進型のリーダーとして、英国を確立する余地はあるというのが弊社の見解です。本政策文書で提起され、ここで回答された問題の多くに対処する議会法（Act of Parliament）は、その目標の達成に向けて大いに貢献するでしょう。

複数の管轄区域にまたがって事業を展開する企業にとって、何らかの課題が生じることを予想していますか。本アプローチが、国境を越えた貿易や国際協力を最も効果的な方法で支援するのにどのように役立つかについて、初期の意見はありますか。

本政策文書は、このデジタル時代において、この分野におけるいかなる規制イニシアチブも、他の国内および国際的な枠組みの双方とどのように相互作用するかについて、十分な配慮と検討がなされるべきであることを正しく示しています。指摘されているように、現在、他の多くの管轄区域が独自のAI規制やポリシーを導入しつつあります。

世界中の市場参画者は一般的に、複数の管轄区域にわたる調和されたAI規制アプローチから恩恵を受けるものであり、ここ英国におけるいかなる制度も、英国市民の利益となるよう、それらの台頭しつつあるグローバルスタンダードを補完することを期待します。国境を越えた貿易や国際協力に関するより広範な検討事項は、本政策文書で検討されている問題の範囲外で処理される方が適していると考えられます。

‍

個別規制機関レベルおよびシステム全体レベルの双方において、本アプローチの有効性の監視をサポートする、堅牢なデータソースをご存知ですか。

はい。弊社が構築しているソフトウェアプラットフォームにより、規制機関はシステム全体レベルと個別規制機関レベルの双方において、自らのアプローチの有効性を監視することが可能になります。弊社はすでに、詳細なAI原則を導入し、組織全体でこれらの原則への準拠状況を測定し、システムが可能な限り堅牢で安全であることを保証するための効果的なガバナンスゲートを確立するために、弊社のプラットフォームを利用している一部の主要なデザインパートナーと協働しています。ここでの知見を共有するため、人工知能局とさらに協力させていただければ幸いです。

‍

Enzaiは、組織が抽象的なポリシーから運用の監視へと移行するのを支援するために特別に構築された、先進的なエンタープライズ向けAIガバナンスプラットフォームです。弊社のAIリスク管理プラットフォームは、自律型AI（エージェンティックAI）ガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠の確保に必要とされる専門的なインフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業が ISO 42001 や NIST などのグローバルスタンダードとの整合性を維持しながら、自信を持ってAIの導入を拡張できるように支援します。