先日開催したウェビナーのエキスパートパネルから得られた知見を共有できることを嬉しく思います。パネルには、Ada Lovelace Instituteの欧州パブリックポリシーリードであるConnor Dunlop氏（CD）、SWIFTのAIガバナンスリードであるMartin Koder氏（MK）、AIポリシーおよびガバナンスアドバイザーのChloe Autio氏（CA）、そしてAIガバナンスソリューションを提供するEnzaiのCEOであるRyan Donnelly氏（RD）をお迎えしました。 

‍

※パネリストの回答は、長さと明確さを考慮して編集されています。 

‍

先週行われた欧州連合（EU）AI法に関する最新の議論を経て、主な対立点（懸案事項）は何であるとお考えですか。また、来年EUにどのような展開を期待されていますか。 

‍

CD：これはブリュッセルとEUにとって非常に大きな局面です。AI法に関する政治的合意が得られました。これは、世界初の横断的なAI規制となる記念すべき瞬間です。今後はテクニカルな法案起草の過程でいくつかの対立点が生じるかもしれませんが、全体としては非常に前進しました。しかし、来年の対立点や展開についてお話しする前に、なぜこのAI法が重要であり、なぜ政治的合意が得られたことを重視すべきなのかについて、簡単に触れておきたいと思います。 先述の通り、これは世界初の横断的なAI規制となります。また興味深いことに、一部のAIシステムの使用が実際に禁止されます。例えば、公共スペースにおけるリアルタイムの遠隔バイオメトリック（生体情報）識別は、法執行機関による使用などの一部の例外を除き、完全に禁止される予定です。今週の焦点は、その例外措置がどこまで広く認められるかという点にありました。 

‍

欧州委員会によると、「ハイリスク」なAIシステムは、全システムの5%から15%を占める可能性があります。これには、法制度や法執行機関における多くの公共部門のユースケースをはじめ、教育や医療などの社会的影響力の大きい他の分野も含まれます。この法律は、リスク管理、データガバナンス、そして人間の監視を維持することを確実にするためのルールを策定します。  また、先週合意されたばかりの新しいカテゴリーが存在する可能性があります。AI法の草案では、システムを「禁止対象システム」、「ハイリスクシステム」、「ローリスクシステム」に分類していますが、新たに「システムリスク（体系的リスク）」カテゴリーが導入されました。このカテゴリーは汎用AIモデルを対象としています。ここに、対立点が生じる可能性があります。具体的には、AIシステムをシステムリスクをもたらすものとして分類するための「計算しきい値」です。現在、そのしきい値は当研究所の意見では非常に高く設定されています。提案されている10^25 FLOPsというしきい値に該当する市場のモデルは、現時点ではGPT-4のみです。Google DeepmindのGeminiも該当する可能性がありますが、まだ明確ではありません。

‍

2024年に何が起こるかという問いについてですが、年の第1四半期は依然として法案の技術的文言の起草に焦点が当てられるでしょう。ステークホルダーはこのプロセスに影響を与えようとし続けるはずです。AI法の「前文」および法的テキストの内容の明確化が極めて重要になります。来年初頭のこの作業は軽視できません。 潜在的に興味深い展開として、システムリスクをもたらす汎用AIモデルのための「行動規範（コード・オブ・プラクティス）」に関する合意があります。当初、これは汎用AIプロバイダー向けの非拘束力のあるガイダンスという形をとる予定です。これは市民社会が関与するための手段であり、非常に重要です。来年の第2四半期頃からは、この行動規範に多くの注目が集まるでしょう。これがうまく機能すれば、標準策定プロセスにおける民主主義的な不備（デモクラティック・デフィシット）を解消できる可能性があります。最後に注目すべきは、来年の欧州議会選挙によって一時中断されるものの、EUがAI民事責任ディレクティブ（AI Liability Directive）に取り組んでいる点です。

‍

欧州の文脈におけるAI安全性のテーマについて議論してきましたが、米国はしばらくの間、規制において主導的な役割を果たしていませんでした。しかし、バイデン大統領によるAIに関する大統領令の発表により、その状況は一変しました。米国の現在の雰囲気はいかがですか。また、この大統領令は来年どのように実施されるとお考えですか。

‍

CA：簡単な要約として、この大統領令（EO）は英国でのAI安全性サミットの直前である10月30日に署名されました。この大統領令は、技術やデジタル政策に関連するものとして、バイデン政権史上最も長く包括的なもので、111ページに及びます。これは、政府がこの問題に対してどれほど強い意図を持ち、事前に対処しようとしているかを如実に示しています。

‍

この大統領令は50の異なる政府機関を動かすものであり、商務省が実施を主導しています。特に、自主的なAIガバナンスの先進的な基準フレームワークとなっている「AIリスク管理フレームワーク」で知られる国立標準技術研究所（NIST）が重要な役割を担っています。また、150以上の新たな指令（アクション、報告書、ガイダンス、規則や政策の策定など）が作成され、今後30日から365日以内に各機関が独自の報告書を作成・実施することになっています。結論として、やるべき作業は山積していますが、これに対する受け止め方は非常に好意的なものです。

‍

連邦議会、政権、そして業界関係者との議論において、大統領令が示すロードマップと方向性に対する大きな期待と、それが実際にどのように実施されるかについての強い関心が示されています。 

‍

これは、信頼できるAIに関するトランプ政権時の大統領令など、以前のものとは異なります。以前の大統領令では、最終的な完了に至らなかった多くの指令がありました。例えば、AIユースケースのカタログ化や、各機関向けに異なるリスク管理ガイダンスを開発すること、行政管理予算局（OMB）がAIを責任を持って導入・実施するためのガイダンスとなるメモを作成することなどです。これらはどれも最終決定されませんでした。そのため、今回の大統領令では、そのトーンや方向性から、実施および政府一体となったアプローチの推進に対して、はるかに高い関心が寄せられると考えています。 

‍

大統領令が発表される以前から、米国政府がAIガバナンスに関して多くの取り組みを行っていたことを理解することは重要です。連邦議会がEUで見られるような広範な一括法や横断的なAIガバナンス法を可決していないのは事実ですが、政府内の多くの機関（雇用機会均等委員会（EEOC）、AIリスク管理フレームワークを推進するNIST、消費者金融保護局（CFPB）など）は、すでに広く知られているAIによる危害に対処するために、さまざまな種類のガイダンスを公表していました。今回の大統領令は、これら多くの機関が進めてきた優れた取り組みを基盤としており、大統領令の方向性を決定付ける上で大いに役立ちました。

‍

この大統領令は、モデルへのアクセスや将来のリスクからの保護に関連する国家安全保障に焦点を当てるなど、広範な問題に深く踏み込んでいます。さらに、プライバシー、消費者保護、知的財産（IP）にも多くの焦点が当てられています。 

‍

この文脈における政府機関への要求事項として、データブローカーを含むさまざまなデータソースをカタログ化し、プライバシーへの影響（これらのモデルのデータがどこから来ているのか）を真に理解することが挙げられます。市民社会の関係者や活動家、そして私自身も、この取り組みがどのように展開されるか非常に期待しています。また、米国特許商標庁（USPTO）は、知的財産ルールに関する新しいガイダンスや、AIによる発明者権に関するガイダンスを発行する予定であり、これも非常に興味深いものになるでしょう。 

‍

また、この大統領令は公平性と非差別（不当な差別防止）の問題にも大きく焦点を当てています。司法省（DOJ）、雇用機会均等委員会（EEOC）、国土安全保障省（DHS）などの主要な規制機関に対し、AIによる危害に対する執行（エンフォースメント）に向けた投資を行い、新たなガイダンスを共同で策定することを求めています。これまで、このような協調的な取り組みは行われていませんでした。大統領令はこれを正式に制度化しました。私たちは、住宅における非差別、融資の利用可能性など、AIによる具体的な被害として以前から広く文書化されている問題に注目しています。政府がこれらの問題に対してどのような執行戦略を打ち出すか、非常に注目されます。

‍

さらに、この大統領令は労働および労働者の権利もカバーしています。政府機関に対し、採用プロセスにおいてAIシステムをどのように使用しているか、または連邦政府の請負業者がAIシステムをどのように使用しているかについてのガイダンスを提供するよう求めています。皆さんも英国のAI安全性研究所についてお聞きになったことがあるかと思いますが、NIST自体もAI安全性研究所を設立しました。ここでは、基盤モデルやAIモデルのセキュリティと堅牢性を調査し、レッドチーム手法を開発し、既存のリスク管理プロセスを強化して、これらのモデルのセキュリティを真に向上させるための多くの取り組みが行われる予定です。

‍

そして最後に、この大統領令は米国政府内におけるAI人材の育成を非常に重視しています。これは寂しい統計ですが現実です。米国でコンピュータサイエンスやAIの博士号を取得した卒業生のうち、連邦政府の職員になるのはわずか1%にすぎません。多くの優秀なAI専門家が民間企業、アカデミア、あるいは大規模な研究室に流れています。公共部門で働き、公共部門の目標やニーズに貢献し、公共サービスをより良くするために尽力する人材はほんの一部です。大統領令はいくつかの新しい規則と変更を定めており、AI分野の外国生まれの米国教育を受けた優秀な人材が米国に留まり、米国のエコシステムに貢献できるように、移民政策への小規模な修正を行っています。これが、この大統領令全体に散りばめられている主要なテーマの非常に大まかな概要です。

‍

英国では何が起きているのでしょうか。ダウニング街の政府高官やシニアAIリーダーたちとの議論に深く関わってこられたことと存じます。AI安全性サミット以降、進展はありましたか。

‍

RD：英国における展開を簡単に要約すると、政府は当初、人工知能の規制に対して「イノベーション推進型（Pro-innovation）」のアプローチからスタートしました。その狙いは、英国を人工知能における世界的リーダーとして確立することでした。これには、人材の育成や企業に過度な負担をかけないこと、そしてこれらの素晴らしいテクノロジーを取り巻くイノベーションを真に促進するインフラを政府がどのように構築できるかという、これまで提起された多くのポイントが関わっています。これに関する最初のホワイトペーパーは数年前に発行され、私たちも企業としてそれらの提案に直接意見を反映させました。当初は指針（ガイダンス）としてスタートしましたが、時間が経つにつれ、人工知能を規制するためのイノベーション推進型アプローチには「強制力がない」というフィードバックが寄せられるようになりました。政府はこのフィードバックを真摯に受け止め、AIを規制すべきか、あるいは規制すべきではないかという選択を迫られました。 

‍

イノベーション推進型アプローチの第2の草案は、非常にクリエイティブなものでした。2つの選択肢があると申し上げましたが、第3の選択肢があったのかもしれません。英国におけるAI規制の計画は、既存のセクター別規制機関に規制の負担を委ねることです。つまり、「金融行動監視機構（FCA）や競争市場庁（CMA）といった既存の規制機関は、すでに自身の担当領域を規制しているのだから、既存の権限範囲内でAIがどのように使用されているかも確認すべきである」という考え方です。これには、AIシステムが複数セクター横断的な原則に適合していることを確認することが含まれます。このアプローチは業界に義務を課すものです。

‍

さらに一歩進んでAI法案を導入するという議論もあり、政府は確かにこれを詳細に検討したと思います。安全性サミットに向けて、これは未解決のままでした。サミットの裏では、英国で追加の規制を導入しようとしないという決定がなされました。自動運転車やオフロード車両に関する追加の法案はありましたが、当時人々が想定していたであろうEUのAI法のようなものは存在しません。年明けには、このイノベーション推進型アプローチの新しい草案が発表される予定です。私はこの件に関して、科学・技術・イノベーション省（DSIT）の関係者と非常に緊密に話し合ってきました。英国で、欧州で見られるような横断的な法律が制定される可能性は非常に低いです。

‍

このアプローチは多くの点で異なります。 イノベーション推進型アプローチやセクター別の規制機関に負担を強いることに対する最大の批判の1つは、調整機能が存在しないという点です。舞台裏で全てを統括する中央の機能がないため、ある規制機関がバリューチェーンの一つの側面をあるように解釈し、別の規制機関が同じ問題に対して反対の解釈をすることが起こり得ます。市場には多くの不確実性があるため、政府はホワイトペーパーの最新版でこの不満への対処に取り組んでいます。同様に、EUのAI法に対する批判はほぼその逆であり、規制が横断的（一律）すぎて、特定のセクターやそれに伴うニュアンスを考慮する必要があるという意見もあります。 

‍

米国、EU、英国におけるそれぞれ異なる規制アプローチについて議論してきましたが、ブラジル、中国、そして世界中で同様の取り組みが行われていることも知られています。国際的な連携はなぜこれほどまでに価値があるのでしょうか。また、グローバルな標準（基準）を確立することのメリットは何であるとお考えですか。

‍

MK：SWIFT、および私たちがこれらの課題に取り組むために採用しているアプローチについてお話しできることを嬉しく思います。紹介として、SWIFTは国際銀行間金融通信協会（Society for Worldwide Interbank Financial Telecommunications）です。私たちは、国際決済メッセージングのインフラを運営する、中立的な非営利組織です。私たちはガバナンスを非常に重視しています。 私たちが顧客である大手金融機関に伝えているのは、確立された金融サービスプロバイダーにおいて、すでに導入されている極めて広範かつ成熟したリスク管理能力に注目することです。「3つの防衛線」モデルの下で、ベンダー管理、プロダクトガバナンス、データガバナンス、セキュリティ制御、プライバシー評価などが実施されています。私たちは無数の委員会やプロセス、そしてこれらを監視する膨大な人員を擁しています。これにより、政策立案者が期待していることの70%にはすでに適合しています。 

‍

一部の分野で1つか2つのギャップはあるかもしれません。しかしそれは、説明責任（法的な意味でのリスク責任）などの、AIガバナンス規制の用語を使用することの問題かもしれません。また、公平性のような原則は、すでに非差別として存在しています。 

‍

つまり、すでに実施しているリスク評価、識別、影響監視などの多くのプロセスから、規制当局が責任あるAIやAIリスク管理に対して期待する定義された指標に照らし合わせて、管理情報を抽出するというケースが考えられます。これらの指標は、公平性、監査可能性、説明責任、正確性など、さまざまな側面にわたります。そして、その情報を標準化された方法で提示することで、必ずしもデータやAIに関する高い専門知識を持たない組織内の上位の意思決定者（役員レベル、取締役会、最高リスク責任者（CRO）、一般法務顧問など）が理解できるようにします。それは、再現可能であり、経営陣が意思決定を行うための確証を与え、かつ規制当局、顧客、あるいはその他の種類のステークホルダーであれ、それを必要とするあらゆる人々に提供できる確証を与える方法であるべきです。

‍

私が世界中のお客様に申し上げたいのは、「パニックにならないでください」ということです。なぜなら、成熟した機関であれば、AIガバナンスに対処するための大量のリスク管理能力をすでに備えているからです。

‍

グローバル基準に関しては、企業の文化、一般的なリスク管理プロセスを実行する能力、そして導入可能なインフラが、利用可能な保証のアウトプットをもたらします。ご自身の文脈において独自の基準を設定してください。 その後、さまざまな戦略を通じて、地域の法轄区域の要件に基づいてそれらを再構成することができます。例えば、顧客基盤やベンダーグループ、学者、規制当局など、世界のさまざまな地域の人々とパートナーシップを結ぶことが考えられます。ワーキンググループの委員会に参加して、プライバシー強化技術（PET）のような新しい分野を調査し、どのような基準に従っているかを把握し、特定の分野の地域的な背景を学び、地域の規制に適合するように提供できる保証を再パッケージ化することができます。 

‍

Connor氏がカテゴリーやしきい値について話していたと思います。残念ながら、これが規制の仕組みそのものです。規制当局は常に分類（バケツ）を作ります。そして人々は、ものが間違ったバケツに入っている、あるいはしきい値が間違ったレベルにあると不満を言いますが、それらは時間の経過とともに変化します。ほとんどの政策担当官が機械学習の専門知識をあまり持っていないことを考慮すると、世界の規制当局はかなり良い仕事をしてきたと思います。注目すべき重要な組織はNISTです。AIガバナンスにおけるベストプラクティスを構成するものや、台頭するさまざまな規制基準にどのように対処すべきかについて、多くの情報が飛び交っています。情報とノイズの比率という点では、昨年よりも状況は悪化しています。実際にどの組織を信頼すべきかを見極めることは、より困難になっています。最善の方法は、すでに持っているもの（例えば、3つの防衛線など）を活用することです。

‍

英国に関するRyan氏の指摘について、英国は3つの側面で極めてスマートであったと思います。第一に、AI安全性研究所を設立したことです。英国は、米国および英国の機関によって検査されるため、米国企業のすべての最先端の基盤モデルを確認することができます。第二に、英国は依然として、EU規制の基準を設定する権限を持つ基準策定機関のメンバーです。ある意味、EU法の基準策定フェーズにおいて、英国は依然として交渉の席についています。第三に、企業に対してリスク管理体制が整っていることを実証することを求めるEU法の要件は、その多くがロンドンに本拠を置く専門的なアドバイザリー企業にとって大きなビジネスチャンス（ボナンザ）となるでしょう。そのため、同法の制定により、それらの企業の多くが堅調なビジネスを展開することになるかもしれません。

‍

「3つの防衛線」について言及されました。これは金融サービスや保険の分野では非常になじみのある概念ですが、他の業界ではそれほど一般的ではありません。AIリスクの管理において、3つの防衛線はどの程度適用可能でしょうか。また、これは他の組織も検討すべきことだと思われますか。

‍

MK：それは、どの分野に属しているかによります。一般的に、AI安全性サミットから発信されたメッセージは、世界の歴史を通じて、少し安全でないと見なされ、その使用が人々を不安にさせてきた特定のセクターが存在したが、現在ではもうそうではない、というものでした。私たちがそれらのリスクを管理し、社会の信頼を獲得してきたのは、安全基準によるものです。 航空や、一般的な輸送機関を見れば、厳しい安全検査や規制があることを知っているため、飛行機に乗ることを心配する人はいません。医薬品や、臨床試験への段階的アプローチに目を向ければ、これは基盤モデルに対しても採用すべきだと一部の人々が提案しているアプローチです。安全性研究所が持つ使命の一部は、これらの高度に規制されたセクターからAIの世界への基準の「移転可能性（応用可能性）」を調査することにあります。 

‍

3つの防衛線は、金融サービスセクターにかなり特化したものです。しかし、その本質は他の業界にとっても理にかなっています。第1の防衛線は、ビジネスおよびプロダクトオーナーです。彼らがリスクを所有し、リスクを特定し、コントロールを明確にし、軽減策を講じて結果を監視する責任を負います。説明責任はビジネス側が担います。 第2の防衛線は、リスク管理者、弁護士、データガバナンスチーム、サイバーセキュリティチームなどのすべてのサポートパートナーです。彼らは、分野横断的なワークショップを通じて専門知識を提供し、ビジネス側の対応におけるすべての問題を特定し、ビジネス側が特定のプロジェクト向けに定義されたリスク選好度（リスクアペタイト）に対して、すべてのリスクを定量的に収集、登録、評価できるよう支援します。第2の防衛線は、監視をサポートします。 そして第3の防衛線は、監査人です。彼らは定期的に監査を行い、リスクの特定と管理に関して行われたすべての作業が、言明された通りに機能しているかを確認します。一般的に重要なのは、すでに高度な安全対策が施されているセクターに注目し、そのセクターに対してどのような適用可能性があるかを検討することです。 

‍

対策が、自社の取り組んでいる内容に特化していることが極めて重要です。もしB2Bの、表形式データを扱うバックオフィス向けのロジスティック回帰を用いた異常検知サービスを運営している場合、基本的人権の問題は、必ずしもそのAI利用における最大のリスクにはなりません。 

‍

リスクの所有権（オーナーシップ）に関する非常に興味深い点に触れました。これは、説明責任に関する疑問に直結します。バリューチェーン全体におけるAIリスク管理の「究極の説明責任」はどこにあるとお考えですか。

‍

CD：Ada Lovelace Instituteでは、この問題について深く考えてきました。Martin氏が述べたことと同様に、多層防御（複数の防衛線）の概念は、AIバリューチェーンに非常にうまくマッピングできます。私たちがEUのAI法で直面した課題の1つは、製品安全の視点を採用したため、「デプロイ（展開）フェーズ」に焦点が当てられていたことです。当研究所の研究では、現実はそれよりもはるかに複雑であることを一貫して見出しています。リスクはバリューチェーンの任意の時点で発生する可能性があるため、説明責任をどこに割り当てるかについて、一画一律の答えはありません。 

‍

明らかなことは、説明責任はバリューチェーンに沿って配分されるべきだということです。例えば、設計・開発フェーズで行われた決定や、トレーニング時にモデルに投入するデータに関する決定は、導入時のアプリケーション層であっても、確実に出力に影響を与えます。 リスクがどこで発生するかを考えることは、ピン留めする上で有用な概念の1つです。リスクの発生源（オリジン）は極めて重要です。また、リスクの拡散も規制当局が注目すべき重要なポイントです。例えば、リスクはクラウドホスティングサービスにアップロードされ、APIアクセスを介して提供された時点で拡散する可能性があり、その段階こそ、有害な可能性のあるものが、アクセシビリティの拡大によって増幅されるタイミングです。これは、規制当局がリスクの発生源を問い、それをどのように軽減できるかを求めるための、効果的な介入ポイントになり得ます。

‍

説明責任がどこにあるかを一概に言うことはできません。それは共有される必要があり、リスクが発生する場所に非常に焦点を当てる必要があります。他のセクターから学ぶべき、興味深いガバナンスモデルがいくつか存在します。例えば、3つの防衛線です。最近私たちが注目しているのが、米国のライフサイエンス分野の規制です。これは基本的に、AIのための食品医薬品局（FDA）がどのようになり得るかというものです。私たちは、数日中にこれに関する研究報告を公表する予定です。 極めて重要なのは、高価値な情報へのアクセスを確保し、開発者と規制当局の間に見られる情報の非対称性を解消することです。例えば、FDAは医療機器を規制するための情報へのアクセス権を持っています。製品のライフサイクル全体を通じて、開発者と規制当局の間には継続的な関係が存在します。特定の基準に基づいて、的を絞った精査を行う選択肢があります。これは、リスクの発生源が非常に不明確なバリューチェーンに対処するための優れた方法であり、規制当局が時間の経過とともに、高価値な情報にアクセスできるチェックポイントを見つけることで、学び、スキルアップするための優れた方法でもあります。 

‍

市場投入前においては、開発者や採用者（エンプライヤー）に重大な説明責任があります。そして市場投入後の段階では、ライフサイクル全体を通じてリスクを監視できる強力な規制当局が必要です。これはおそらく、第2および第3の防衛線に関わるものであり、私たちが「検査のエコシステム（エコシステム・オブ・インスペクション）」と呼ぶものによってサポートされるべきです。つまり、Martin氏が述べたように、監査人へのアクセス、あるいは実証されたレッドチームのメンバーへのアクセスを意味します。

‍

主な課題は、インセンティブの問題です。AI法はおそらく、独立した監査や、実証されたレッドチームメンバーによる敵対的テストを実施する義務を定めないでしょう。そのため、規制上の義務（フック）がない中で、必ずしもそのような精査に自ら進んで応じるわけではないプロバイダーに対して、どのようなインセンティブがあるのかが問題となります。それが、私たちが今後考えていくべきことです。

‍

視聴者から質問が届いています。「NISTのリスク管理フレームワークをEU AI法にマッピングした対応表ドキュメントを現在作成していますか」とのことです。

‍

CA：リスク管理フレームワーク（RMF）、EU AI法、その他さまざまな提案を用いた、非常に多くのマッピング作業がこれまでに行われてきました。皆さんに共有できるリソースをいくつかご用意できますので、ぜひご活用ください。 

‍

MK：仮にそのような文書が存在したとしても、特定の法轄区域におけるすべての人の要件について、完全な法的確実性が得られる時点が将来訪れるわけではありません。それは常に動的なものです。私たちは常に一定の不確実性を抱えながら活動することになり、それに適応していく必要があります。解決策の一部は、自社の固有の状況に特化した独自の基準を策定することです。初心に立ち返り、政策立案者に委ねるのではなく、自らの文脈の中で自ら解決策を導き出してください。独自の基準をいくつか定義し、それに対する監査証跡を作成します。ライフサイクルのあらゆる段階において、説明責任を果たすための透明性を確保したいときに、その監査証跡を利用できます。

‍

しかし、異なる法轄区域の基準や要件をLLMや、文書を完全にマッピングするプラットフォームに投入しさえすれば、組織がすべきことはすべてのチェックボックスにチェックを入れるだけで万事解決する、という考えには注意を促したいです。なぜなら、これは動的な環境になるからです。 

‍

RD：完全に同意します。私たちは、まさにこれらのポイントに触れた無料のAIポリシーガイドを間もなく公表する予定です。これらのフレームワークをご自身の組織に合わせてカスタマイズし、何が自社にとって重要であるかを深く理解する必要があります。単に既製品をそのまま利用すれば済むという話ではありません。 

‍

知的財産（IP）に関する質問と、この分野における知的財産が今後どのように展開していくかについての質問があります。 

‍

Ryan：このすべてにおいて、インセンティブも重要な考慮事項であり、インセンティブは必ずしも皆さんが想像するようなものであるとは限りません。これが現在どのように展開されているかの例を挙げると、これらの大規模な基盤モデルの多くは、あらゆる場所からデータを収集しているため、深刻な知的財産に関する懸念が存在します。 すでに大規模なデータセットを所有している大手プロバイダーの一部が行っているのは、知的財産の補償（インデムニティ）を提示することです。「私たちは、このモデルのトレーニングに使用されたすべてのデータを所有していると確信しているため、そのようなことは決して起こらないと考えています。したがって、世界のどこかで知的財産法に違反したとして誰かが提起する可能性のあるあらゆる種類の請求から、お客様を保護（補償）します」と述べています。これは、そうした種類の製品に対する多大なる信頼を生み出しています。

‍

知的財産やこれら巨大なモデルに関する特定のルールが策定されるのを待つのではなく、組織は自らイニシアチブを執り、このリスクをお客様の手から完全に取り除こうとしています。私たちはツールを信頼できるものにします。これは非常に説得力があり、インセンティブが当初予想していたものとは多少異なる場合があることを示しています。同様に、サイバーセキュリティ分野に目を向けると、SaaS（Software as a Service）企業が満たすべきISO/IEC 27001やSOC 2などの多くの高度な基準が存在しますが、これらは規制当局によって義務付けられているわけではありません。 

‍

しかし、データを保護するために可能な限り最高レベルのサイバーセキュリティ基準を満たしていなければ、誰もそのソフトウェアを購入しないため、組織が基準を遵守するための市場インセンティブが存在します。この市場インセンティブは見落とされがちです。

‍

大統領令は多大な影響を与えることになりますが、米国では州レベルでも多くの取り組みが行われていますね。例えば、ニューヨーク市の地方法律第144号（Local Law 144）などが思い浮かびますが、これらは州レベルのものであり、特定の業界に焦点を当てているようです。これらの動きは、より広範な連邦政府レベルの取り組みとどのように相互作用していくとお考えですか。

‍

CA：非常に良い指摘です。来年は、特に連邦議会の行動が欠如している中で、州レベルでの膨大な動きが見られるでしょう。上院のチャック・シューマー多数党院内総務による「AIインサイトフォーラム」には多くの注目が集まっています。彼は、主要なAI専門家を交えた約10の異なるフォーカスラウンドテーブルを招集し、透明性や説明可能性、国家安全保障、バイアス、市民権といった個別のテーマについて議論を重ねてきました。 しかし、ワシントンにおける政治的現実は厳然として存在します。来年には重大な選挙が控えています。極めて重要な選挙です。インサイトフォーラムや大統領令の実施から得られた情報をもとに上院で法案作成が大きく前進したとしても、包括的な法案を最終的に可決することや、私たちが懸念しているAIによる多くの被害に十分に対処することは非常に困難であるのが実情です。 

‍

その空白を埋めるように、多くの州がすでに動き始めています。ニューヨーク市は地方法律第144号を可決しました。これは、採用だけでなく雇用においても、AI採用技術の使用に対してバイアス監査を義務付けるものです。もし企業が、AI技術を活用した労働者の監視、面接、チェックインなどを行っている場合、バイアス監査を実施する必要があります。実施方法については現在も整理が進められています。今後、特定の分野に特化した法案や、州政府におけるAI人材の育成と効率化を推進する法案が多く登場するでしょう。分野特化型の法案としては、コロラド州において、保険の決定のためにデータソースがどのように使用され、データがAIを通じてどのように分析されるかを規制する保険法があります。この法律はすでに成立しており、現在まさに実施が進められています。コネチカット州では、ジェームズ・マロニー州上院議員が州をまたぐAIワーキンググループを立ち上げ、バイアスや差別、あるいは選挙の公正性などの問題に強い関心を持つ州レベルの議員たちを集めています。

‍

では、2024年の大統領選挙は、バイデン大統領のAIに関する大統領令の執行にどのような影響を与える可能性があるでしょうか。 

‍

CA：バイデン政権が選挙の年を迎えるにあたり、この大統領令を可能な限り実施することに強く集中していることは十分に承知しています。特に、前回のAIに関する大統領令が実施の段階で十分な成果を上げられなかったという背景があるためです。来年何が起こるか、非常に注目されます。トランプ氏自身は、すでに選挙キャンペーンの過程で、大統領に就任した初日に言論の自由を守るためにバイデン大統領の「Woke（進歩主義的な）AI大統領令」を撤回すると明言しています。 政治的信条に関わらず、これらは非常に予測可能な議論や立場であり、ここから言えることは、AIガバナンスは米国における政治問題であり、特にこの選挙に向けて今後もその状態が続くということです。連邦レベルでは注目すべき点が多くあります。さらに重要なのは、これらの問題への取り組みに強い関心を持つ、将来有望な選挙で選ばれた官僚が多く存在するため、州レベルで何が起きているかに注目することです。

‍

欧州でも来年、選挙が行われます。それはEU AI法のスケジュール、特に同法が施行される時期にどのように影響するでしょうか。

‍

CD：全く影響しないことを望んでいますが、影響を与える可能性はわずかにあります。影響を避けるためには、遅くとも3月までにテキストの技術的起草を完了させる必要があり、そうすれば選挙の影響を受けずに済みます。そのため、作業は基本的に3月からスタートすることになります。現時点では、十分な時間があるように見えます。トラブルは予想していません。ただし、重大な反対があればその限りではありません。フランスが何らかの妨害的な形で介入し、法案を阻止しようとする可能性があります。もしそうなれば、3月までに合意に至らないリスクが生じます。実務的には、作業が2025年まで延期されることを意味し、控えめに言っても混乱を招くことになります。なぜなら、その時には新しい議員が選出されているからです。議会に同じメンバーが揃っているとは限らないため、異なる優先課題を持つ新しい人々がこのファイルを担当することになります。

法案が予定通り進むと仮定すると、EUの官報に掲載されてから2年後に適用が開始されます。官報への掲載はおそらく2024年初頭になるため、ほとんどのAIアプリケーションが法に適合すべき年は2026年となります。システムリスクを伴う汎用AIモデルについては、官報掲載から1年後の適用開始を目指しています。

‍

これで、AIシステムの責任ある開発とガバナンスに関する非常に洞察に満ちた議論を終了します。専門知識と展望を共有してくださったパネリストのConnor氏、Martin氏、Chloe氏、そしてRyan氏に心から感謝いたします。 ご参加いただいた視聴者の皆様、誠にありがとうございました。イベントページやソーシャルメディアのチャンネルで、引き続きこの対話を続けていただければ幸いです。 

‍

ウェビナーの完全な録画ビデオはYouTubeでご覧いただけます。

Enzaiは、組織が抽象的なポリシーから実践的な運用監視へと移行できるよう特別に構築された、最先端のエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を確実にするために必要な専用インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバル基準との整合性を維持しながら、自信を持ってAIの導入規模を拡大できるよう支援します。