最近の、英国政府の人工知能局による政策文書「AIの規制におけるイノベーション促進アプローチの確立」に関する我々の回答を喜んで共有します。これまでの非常に重要なテーマにおける人工知能局の取り組みに感謝したく、今後の議論の一部を形成できることを大変うれしく思っています。エンザイが進化するAIの規制をナビゲートするお手伝いがどのようにできるかをご覧ください。

メール経由: evidence@officeforai.gov.uk

2022年7月20日付けの「AIの規制におけるイノベーション促進アプローチの確立」と題された政策文書に対する回答

はじめに、エンザイは北アイルランドのベルファストに設立された新しいスタートアップ企業です。2021年8月に、主要な企業法弁護士兼規制専門家であるライアン・ドネリーと、経験豊富なソフトウェアエンジニアであるジャック・カーライルによって設立され、今後、強力な人工知能（“AI”）技術が社会全体の利益のために使用されることを使命としています。

我々はAIに伴う重要なリスクからの保護に特に焦点を当てています。我々のソフトウェアプラットフォームを通じて、顧客は自社のAIシステムをAI開発のゴールドスタンダードと比較し、組織全体のAIガバナンスの概要を理解し、自社のシステムに必要なガバナンスチェックとバランスを課すことで成功を確実にします。これにより、我々は顧客がより安全で堅牢なシステムを構築し、技術を使用する個々の組織だけでなく、社会全体に利益をもたらすのを可能にします。

我々は、規制の力がAI分野のイノベーションを推進する可能性を持つ可能性を持つと確信しています。このほどのほどの開発は事業と社会に利益をもたらすために合理的なガイドレールを必要とします。これは英国にとって大きな機会を意味します。我々の創業者の法的背景を考慮しつつ、英国の規制制度と法治の世界的な評価を我々は鋭く認識しています。我々は、英国がAI分野での才能と投資を引きつけるための知的な規制フレームワークを備えた独自の地位にあると堅く信じています。この機会を最大限に活用するために、規制フレームワークは次の原則を考慮に入れるべきです。(1) ターゲットを定め、最小限の介入で最大の影響を持たせるようにすること、(2) コンテキスト駆動で技術とそれが適用されるドメインのユニークな状況を考慮に入れること、(3) 明確であり、市場参加者が期待されていることを確実に理解できるようにすること。

この目的のために、この政策文書に示された提案を、この政策文書を、英国をプロイノベーションAI法域として確立するための重要な一歩として歓迎します。以下に政策文書で提示された個々の質問への我々の回答を喜んで提示します。

現在のAIの規制アプローチにおける最も重要な課題は何ですか？最も重要なギャップ、重複、または矛盾についての意見はありますか？

一般的なコメントとして、政策文書に示されたリスクベースのアプローチはこの提案の賢明な出発点です - 上記の原則に従う必要があることを強調したいです。

政府がAIの使用を規制したいという願望を表明していることに言及しますが、AIそのものを規制することに焦点を当てるのは単純すぎると我々は考えています。規制フレームワークはAIライフサイクルのすべての側面を考慮しなければならず、システムが安全で堅牢であることを保証するために全体論的であるべきです。データセットのキュレーションと準備という上流タスク、およびモデリング、トレーニング、テスト、評価という中流のタスクの他の側面に対して合理的なガイドレールを提供しないと、相当量の曖昧さと混乱を残します。市場参加者に対する合理的な期待を、ハイリスク影響可能性の高いシステムの開発ライフサイクル全般に課することは、このアプローチに歓迎される追加となるでしょう。これが、我々の構築しているソフトウェアプラットフォームが、市場参加者に課され得るこれらの要件によって感知される管理負担を軽減するのに大いに役立つという形を取ることができます。

AIの定義に関する政策文書で提示されたアプローチは興味深く、『主要な特性』に基づく解釈の概念は魅力的です。しかし、これはさらに進めることができると我々は考えています。解釈を助けるために、明確にAIと見なされる技術の徹底的なリストを作成することも可能です。主要な特性分析はそれから境界例に適用され、新たに発明されたAIはAI技術のリストに追加されることができます。とはいえ、これは規制機関に対して管理的負担を課すことになります。そのため、この特定の提案に関するさらなる議論を歓迎します。

この空間が大変急速に（有機的かつ混乱した方法で）進化していることの認識を読み、我々は喜びました。多くの政府機関がさまざまなフレームワーク、ロードマップ、ガイドラインを公開しており、それを追跡することが難しくなっています。これは重大な課題であり、我々は英国のAI機関と政策立案者の大幅な簡略化を目にしたいと考えています。当初のアプローチに反対する意図ではなく、この唯一の真実の源泉アプローチは、必要に応じて参加者をセクター固有のフレームワークと規制機関に導くべきです。

‍

この文書で示された、英国の既存の規制機関によるコンテキスト駆動型アプローチに同意しますか？このアプローチの利点は何だと思いますか？欠点は何ですか？

AIを規制するためのコンテキストベースのアプローチは原則として賢明です。アプローチが真に効果的であることを保証するために、コンテキストはすべてを包含－それは技術自体のすべての側面、及びそれが使用されている特定のドメインコンテキストを含みます。我々が市場参加者と関わっている経験から、異なる業界セクター（医療、金融、自動車産業など）は技術の作成と実装に異なるアプローチを取ります。さらに、コンテキストベースのアプローチはターゲットを定めて（最小限の介入で最大の影響を持たせるようにするため）明確である必要があります（市場参加者が簡単に義務を理解できるように）。その可能性を最大限にするために、コンテキストベースのアプローチには追加の政策とガイダンスが補完される必要があります。

全体的なアプローチを導くためのクロスセクター原則を確立すべきという意見に同意しますか？提案されたクロスセクター原則は、AI技術による共通の問題とリスクをカバーしていますか？何か欠けているものはありますか？

慎重に構築された原則は、高機能のAIエコシステムの強力な基盤を表します。ただし、我々の経験では、原則だけでは十分に具体化が難しいことが多いです。それらは現実世界の実行可能な洞察に翻訳するのが難しいぼやけた概念になりがちです。例えば、ほとんどの人がAIシステムは公正で安全であるべきだと同意しましたが、公正で安全が実際にどのようなものを意味するのかについては、特定の実用的なシナリオにおいて見解の大きな多様性が生じるでしょう。市場参加者は、その義務を一貫して確実に適用できる明確に定義された義務のセットがあれば、大いに利益を得るでしょう。そのため、原則にはそれらを効果的に採用できるようにするためのより具体的な要件がサポートされる必要があります。

原則と具体的要件の間の特定性の適切なレベルはどこに適正にあるべきかについてのバランスを取る必要があります。すべてのセクターに適用される、AIを規制する詳細な要件を確立することは、特定の状況下では目的に適さない固定的な規制につながる可能性があります。この制限を認識しつつ、我々はコンテキスト駆動アプローチを支持します。しかしながら、逆に、詳細をセクター単位で定義することに任せすぎると、提案は一貫性のある適用のリスクにさらされ、このレジームへの信頼を損ない、AIに関する法律の英国の評判を損なうことになります。このアプローチも理想的ではありません。

後者のアプローチは重大な実際の影響を持つことは重要です。業界セクター間の相違にもかかわらず、セクター単位での明確な区分線はありません – 実際、それらの技術の各業界での使用間にはしばしばかなりの重複があります。各セクター規制機関は、基本原則の独自の解釈を取らなければならず、これは急速に分断され、不一貫性があり、ナビゲートが困難になります。この複雑さを認識し、ホリスティックなレベルでの一貫性を保証するためのさらなる明確さを追加しようとするアプローチは、提案に歓迎すべき追加です。

我々のアプローチを最適に実装するには、どんな早期の見解がありますか？実際的な考慮事項は何ですか？我々のアプローチを実現するために規制システムが何を提供する必要がありますか？AIに関する規制当局のガイドラインを最適に整理し、調整するにはどうすれば良いですか？

提案を法に基づかない立場で進める提案は理解可能です。空間が新しいため、すべてのフレームワークには進化プロセスが必要であり、迅速なフィードバックループを許可する法に基づかない立場が必要です。法に基づかない立場のデメリットは、提案が法定のイニシアチブが受けるほどの関与と市場参加を得られにくいことです。法に基づかないガイダンスは、遵守しない場合の『有効な行動』を含まないため、市場で無視される可能性が高いです。任意のAI倫理原則とフレームワークの多様な音声環境はすでに存在していますが、限られたリソースや多くの競合する要求により、市場参加者は他のグローバルレジーム（EUのAI法や既に関連業界に定着している特定のフレームワーク）への対応に焦点を当てる可能性があります。

法に基づく立場で始める利点は提案がより真剣に受け止められ、より強い関与を得られることです。提案が迅速かつ効果的に進化していることを保証する必要なフィードバックループは、サンドボックス化イニシアチブを通じて達成できます。最終的には、この提案を法に基づく立場にするかどうかは政治的な決定ですが、それが実施されるのであれば我々はその動きを支持します。我々の見解では、英国を安全で堅牢なAIにおけるプロイノベーションリーダーとして確立する空間があります。この提案において取り上げられた多くの問題を解決するための議会法は、その目標を達成するための一歩となるでしょう。

複数の法域にまたがって事業を運営する企業にとって、どのような課題が予想されますか？我々のアプローチが国境を越えた貿易と国際的な協力を最も効果的にサポートする方法についてどのような早期の見解がありますか？

政策文書で示されているように、このデジタル時代において、この空間でのいかなる規制イニシアチブも他の国内及び国際フレームワークとどのように相互作用するかに十分な配慮と考慮を与えるべきであることを正当に指摘します。多くの他の法域が独自のAI規制と政策を実施しつつあります。

市場参加者は世界中でAIの規制を法域間で調和させるアプローチから一般的に利益を得るでしょう。我々は英国でのいかなるレジームがここで発展しているグローバルスタンダードを補完し、英国の市民の利益に資することを期待します。国境を越えた貿易や国際的な協力に関しての広範な考慮事項はこの政策文書で検討される問題の範囲外でよりよく対処される可能性があります。

‍

我々のアプローチの効果を個別の規制機関およびシステムレベルで監視するための確固たるデータソースを知っていますか？

はい – 我々が構築しているソフトウェアプラットフォームにより、規制機関は全体的なシステムレベルと個別の規制機関レベルの両方で、そのアプローチの効果を監視することができます。我々はすでに、組織全体でこれらの原則に沿った詳細なAI原則を実装し、これらの原則に対するコンプライアンスを測定し、システムの堅牢性と安全性を保証する効果的なガバナンスゲートを確立するために、このプラットフォームを使用しているいくつかの重要な設計パートナーと提携しています。人工知能事務所とのさらなる関与をし、ここでの学びを共有することを喜んでいます。

‍

エンザイのブログで米国およびヨーロッパのAI規制へのアプローチについてさらに学べます。

‍