Enzai MCPサーバー
お使いのAIと接続。
MCP対応のエージェントなら、どれでも同じガバナンスの効いた接続を、チームが普段使う場所でそのまま利用できます。
主な連携先
ワークフローツール
Jira, ServiceNow
モデルプロバイダー
Anthropic, OpenAI
エージェントツール
Copilot Studio, Claude Enterprise
開発環境
Azure AI Foundry, Amazon Bedrock, Databricks

ブログ

AIガバナンスの未来:AI専門家による洞察

AIガバナンスの未来:AI専門家による洞察

AIガバナンスの未来:AI専門家による洞察

AIガバナンスの専門家パネルが、規制や標準、説明責任、3つの防衛線(スリーライン・オブ・ディフェンス)などについて徹底解説します。

AIガバナンスの専門家パネルが、規制や標準、説明責任、3つの防衛線(スリーライン・オブ・ディフェンス)などについて徹底解説します。

•

26分で読めます

最近開催したウェビナーの専門家パネルで得られた知見をご紹介します。登壇者は、Ada Lovelace Institute 欧州公共政策リードのConnor Dunlop(CD)、SWIFT AIガバナンスリードのMartin Koder(MK)、AI政策・ガバナンスアドバイザーのChloe Autio(CA)、そしてAIガバナンスソリューションを提供するEnzaiのCEO、Ryan Donnelly(RD)です。

‍

パネリストの発言は、分量と分かりやすさを考慮して編集しています。

‍

先週行われたEU AI Actの最新の協議を受けて、主な争点は何だとお考えですか。また、来年EUにどのような進展を期待していますか。

‍

CD:ブリュッセルとEUにとって、これは非常に大きな節目です。AI規則について政治的合意が成立しました。実現すれば、世界初の分野横断的なAI規制となります。大きな出来事でした。大きな争点はそれほど多くないと期待していますが、今後の技術的な条文作成の過程でいくつかは出てくるでしょう。ただ、争点や来年の動向についてお話しする前に、AI規則がなぜ重要なのか、そして政治的合意が成立したことになぜ注目すべきなのかを簡単に述べておきたいと思います。先ほど申し上げたとおり、これは世界初の分野横断的なAI規制となります。そして興味深いのは、一部のAIシステムの使用を実際に禁止する点です。たとえば、公共空間におけるリアルタイムの遠隔生体識別は、法執行機関による使用に一定の例外を設けたうえで、全面的に禁止されることになります。今週の焦点は、その例外をどこまで広く認めるかでした。

‍

欧州委員会によれば、高リスクAIシステムはAIシステム全体の5%から15%を占める可能性があります。これには、司法制度や法執行などの公共部門のユースケースが多く含まれるほか、教育や医療といった影響の大きいその他の分野も含まれます。AI規則は、リスク管理やデータガバナンス、人による監視の確保に関するルールを定めることになります。先週合意されたばかりの新たなカテゴリーが加わる可能性もあります。AI規則の草案では、システムを禁止されるシステム、高リスクシステム、低リスクシステムに分類していますが、今回新たに「システミックリスク」のカテゴリーが導入されました。このカテゴリーは汎用AIモデルを対象としています。争点となりうるのはこの部分で、具体的には、AIシステムがシステミックリスクをもたらすと分類するための計算量の閾値です。当研究所の見解では、現時点の閾値はかなり高い水準にあります。提案されている10^25 FLOPsという閾値に該当するのは、市場に出ているモデルのうちGPT-4のみです。Google DeepmindのGeminiも該当する可能性はありますが、まだ明確ではありません。

‍

2024年の見通しについて言えば、第1四半期は引き続き、法律の技術的な文言の起草に重点が置かれます。ステークホルダーは引き続きそのプロセスに影響を与えようとするでしょう。AI規則の前文や、法文の意味の明確化が極めて重要になります。来年前半のこの作業は見過ごせません。注目すべき進展となりうるのが、システミックリスクを持つ汎用AIモデルの行動規範に関する合意です。当初は、汎用AIの提供者向けの拘束力のないガイダンスという形になります。これは市民社会が関与できる道でもあり、非常に重要です。おそらく来年の第2四半期から、行動規範に大きな注目が集まるでしょう。これがうまく進めば、標準策定プロセスにおける民主的正統性の不足に対処できる可能性があります。最後に挙げておきたいのは、AI責任指令に関するEUの取り組みです。ただし、この作業は来年の欧州議会選挙によって中断されることになります。

‍

ここまで欧州の文脈でAIの安全性について議論してきました。米国はしばらくの間、規制において主導的な役割を果たしてきませんでしたが、バイデン大統領のAIに関する大統領令によって状況は変わりました。米国ではどのような雰囲気でしょうか。今後1年で、大統領令はどのように実施されるとお考えですか。

‍

CA:簡単にまとめると、大統領令は10月30日、英国のAI安全サミットの直前に発出されました。この大統領令は111ページに及び、テクノロジーやデジタル政策に関するものとしては、バイデン政権でこれまでで最も長く、最も包括的なものです。政権がこの問題にいかに明確な意図を持ち、積極的に取り組もうとしているかがよく表れています。

‍

大統領令は50の異なる機関を動かすもので、実施の多くは商務省が主導し、特に米国国立標準技術研究所(NIST)が中心的な役割を担います。NISTは、AIガバナンスにおける主要な自主的標準フレームワークとなっているAIリスクマネジメントフレームワークの取り組みで、ご存じの方も多いでしょう。また、大統領令は150を超える新たな指示を定めています。これには、措置、報告書、ガイダンス、各種ルールや方針、各機関による独自の報告書の作成などが含まれ、今後30日から365日以内に実施されることになっています。要するに、取り組むべき作業が非常に多いということです。そして、反響は非常に好意的です。

‍

連邦議会の関係者や、政権、産業界の方々と話していても、大統領令が示すロードマップと道筋には大きな期待が寄せられており、それがどのように実施されるのかにも強い関心が集まっています。

‍

これは、これまでの大統領令、特に信頼できるAIに関するトランプ政権の大統領令とは異なります。その大統領令には、最後までやり遂げられなかった指示が数多くありました。たとえば、AIのユースケースの目録作成、各機関向けのさまざまなリスク管理ガイダンスの策定、行政管理予算局(OMB)による、AIの責任ある導入と実施に関するガイダンスを盛り込んだ覚書の作成などです。いずれも最終化されませんでした。そのため今回の大統領令では、そのトーンや方向性から見ても、実施にはるかに重点が置かれ、政府全体でそれを実現するアプローチがとられると考えています。

‍

大統領令が発出される前から、米国政府はAIガバナンスに関して実際に多くの取り組みを進めていたことを理解しておくことが重要です。確かに連邦議会は、EUのような広範な包括法や、分野横断的なAIガバナンス法を成立させていません。しかし、雇用機会均等委員会(EEOC)、AIリスクマネジメントフレームワークを策定したNIST、消費者金融保護局(CFPB)など、政府内の多くの機関が、よく知られたAIの害に対処するためにさまざまなガイダンスを公表してきました。今回の大統領令は、こうした多くの機関による優れた取り組みを土台としています。その取り組みが、大統領令の方向性を形づくるうえで役立ちました。

‍

大統領令は実に幅広い課題を扱っています。モデルへのアクセスや将来のリスクからの保護に関連して、国家安全保障に焦点を当てています。また、プライバシー、消費者保護、知的財産にも大きな重点が置かれています。

‍

この文脈で各機関に求められているのは、データブローカーからのものを含むさまざまなデータソースを目録化し、プライバシーへの影響、つまりこれらのモデルのデータがどこから来ているのかを実際に把握することです。市民社会の関係者や権利擁護に取り組む人々の多くは、そして私自身も、この取り組みがどう進むかを大いに期待しています。また、米国特許商標庁が、知的財産のルールに関する新たなガイダンスと、AIによる発明者性に関するガイダンスを公表する予定です。こちらも非常に興味深いものになるでしょう。

‍

大統領令は、公平性と差別禁止の問題にも大きく焦点を当てています。米国政府の主要な規制機関である司法省(DOJ)、EEOC、国土安全保障省(DHS)の関係部局などに対し、連携してどのようにリソースを投じるかを決め、場合によってはAIによる害に対する執行に関する新たなガイダンスを策定するよう求めています。これまで、そのような連携した取り組みはあまり見られませんでした。大統領令は、それを正式なものにしたのです。住宅における差別禁止や融資の利用可能性など、AIによる害として以前から十分に記録されてきた問題が対象となります。政府がこうした問題についてどのような執行戦略を打ち出すのか、非常に楽しみです。

‍

大統領令は、労働と労働者の権利も対象としています。各機関に対し、自らがAIシステムをどのように使用しているか、また連邦政府の請負業者が採用プロセスでAIシステムをどのように使用しているかについて、ガイダンスを示すよう求めています。英国のAI安全研究所については皆さんご存じでしょう。NISTも独自にAI安全研究所を設立しており、基盤モデルやAIモデルのセキュリティと堅牢性の検証、レッドチーミングのプロセスの開発、既存のリスク管理プロセスを土台としたモデルのセキュリティ向上など、多くの取り組みを進めることになります。

‍

そして最後に、大統領令は米国政府におけるAI人材の強化に非常に重点を置いています。残念な統計ですが、事実です。米国でコンピュータサイエンスとAIの博士課程を修了した人のうち、連邦政府に就職するのはわずか1%です。非常に優秀なAI専門家の多くは、民間企業や学術機関、大規模な研究所に進みます。公共部門で働き、公共部門の目標やニーズに貢献し、公共サービスを改善する人材はごく一部にすぎません。大統領令は、移民政策への小規模な修正など、いくつかの新たなルールや変更を設け、外国出身で米国で教育を受けたAI人材が米国に残り、米国のエコシステムに貢献できるようにしています。以上が、この大統領令全体にちりばめられた主なテーマの大まかな概要です。

‍

英国では何が起きているのでしょうか。ここ英国では、AI分野のシニアリーダーやダウニング街の政府関係者との議論に深く関わってこられたと伺っています。AI安全サミット以降、何か進展はありましたか。

‍

RD:英国の動向を簡単にまとめると、政府は当初、AI規制に対する「イノベーション促進型アプローチ」から始めました。その狙いは、英国をAIの世界的リーダーとして確立することでした。これは、人材の育成や、組織に過度な負担をかけないこと、そして政府がこうした驚くべき技術をめぐるイノベーションを真に促進するインフラをどう整備できるかなど、先ほど挙がった多くの論点に関わるものです。これに関する最初の白書は数年前に公表されました。当社も企業として、その提案に直接意見を提出しました。当初はガイダンスとして始まりましたが、時間が経つにつれ、AI規制へのイノベーション促進型アプローチには実効性がないというフィードバックが寄せられるようになりました。政府はこのフィードバックを受け止めました。政府には、AIを規制するのか、しないのかという選択が迫られていたのです。

‍

イノベーション促進型アプローチの第2版は、かなり独創的なものでした。先ほど選択肢は2つあると申し上げましたが、3つ目があったのかもしれません。英国におけるAI規制の計画は、規制の負担を既存の分野別規制当局に委ね、「あなた方は金融行為規制機構や競争当局として、すでに自らの分野を規制しています。既存の権限の範囲内でAIがどのように使われているかも確認すべきです」と伝えるものです。これには、AIシステムが分野横断的な原則に準拠していることを確保することも含まれます。このアプローチは、産業界に義務を課すものです。

‍

さらに踏み込んでAI法案を導入するという議論もあり、政府は間違いなくこれを詳細に検討したと思います。安全サミットを迎える時点では、これは未解決の問題でした。安全サミットの後、英国では追加の規制を導入しないという決定がなされました。自動運転車に関する法案は別途ありましたが、当時一部で想定されていたようなEU AI Actに相当するものは何もありません。新年には、このイノベーション促進型アプローチの新たな草案が公表される予定です。私はその件について、科学・イノベーション・技術省(DSIT)の関係者とかなり緊密に話をしてきました。欧州で見られたような分野横断的な法律が英国で制定される可能性は非常に低いでしょう。

‍

アプローチは多くの点で異なります。イノベーション促進型アプローチと、分野別規制当局に負担を委ねる手法に対する最大の批判の一つは、調整機能が存在しないことです。裏で全体を取りまとめる中央機能がなければ、ある規制当局がバリューチェーンのある側面について一つの解釈をとる一方で、別の規制当局が同じ問題について正反対の解釈をとる可能性があります。市場には多くの不確実性があり、これは政府が最新版の白書で対応を進めているフィードバックの一つです。同様に、EU AI Actに対しては、ほぼ逆の批判があります。分野横断的すぎるため、特定の分野とそれぞれに固有の事情を考慮する必要があるという指摘です。

‍

ここまで、米国、EU、英国における異なる規制アプローチについて議論してきました。ブラジルや中国をはじめ、世界中で同様の取り組みが進んでいることも分かっています。国際的な一貫性はなぜそれほど価値があるのでしょうか。また、グローバルな標準を設定することにはどのような利点があるとお考えですか。

‍

MK:SWIFTと、こうした課題に取り組むために私たちがとっているアプローチについてお話しします。まずご紹介すると、SWIFTは国際銀行間通信協会(Society for Worldwide Interbank Financial Telecommunications)です。私たちは中立的な非営利組織であり、国際決済メッセージングのインフラを運営しています。ガバナンスを非常に重視しています。お客様である大手金融機関に対しては、既存の金融サービス事業者にはすでに非常に広範かつ成熟したリスク管理能力が備わっていることを示すようにしています。3つの防衛線(スリーラインズ・オブ・ディフェンス)モデルのもとで、ベンダー管理、プロダクトガバナンス、データガバナンス、セキュリティコントロール、プライバシー評価などを実施しています。数え切れないほどの委員会やプロセスがあり、こうした事項を確認する人員も大勢います。これだけで、政策立案者が求めている水準の70%はすでに満たしているのです。

‍

一部の領域では、1つか2つのギャップがあるかもしれません。しかし、それはAIガバナンス規制の用語を使うかどうかの問題にすぎない場合もあります。たとえば説明可能性は、法的には何がリスクや法的責任となるかを意味します。また、公平性のような原則は、差別禁止などとしてすでに存在しています。 

‍

つまり、リスク評価、リスクの特定、影響のモニタリングなど、すでに実施している数多くのプロセスから、規制当局が責任あるAIやAIリスク管理について求めている特定の指標に照らした管理情報を抽出すればよい場合もあるということです。これらの指標は、公平性、監査可能性、説明責任、正確性など、さまざまな観点にわたります。そして、その情報を標準化された形で提示し、組織のシニアの意思決定者(経営陣、取締役会、最高リスク責任者、法務責任者など)が、データやAIの専門知識を必ずしも持っていなくても理解できるようにします。それは再現可能な方法であるべきです。経営陣が意思決定の拠り所とできる保証を与えるとともに、規制当局であれ、顧客であれ、その他のステークホルダーであれ、求める相手に提供できる保証を示すものでなければなりません。

‍

お客様に申し上げたいのは、慌てる必要はないということです。特に成熟した組織であれば、AIガバナンスに対応するためのリスク管理能力をすでに十分に備えているはずだからです。

‍

グローバルな標準については、企業の文化、汎用的なリスク管理プロセスを実行する能力、そして整備できるインフラによって、必要な保証のアウトプットを得ることができます。自社の文脈に即した独自の標準を設定してください。そのうえで、さまざまな戦略を通じて、各法域の要件に合わせてそれらを再利用できます。たとえば、顧客基盤やベンダーグループ、学術関係者、規制当局など、世界各地の関係者とパートナーシップを結ぶことです。また、プライバシー強化技術(PETs)のような新しい分野を検討するワーキンググループの理事会に参加し、そこでどのような標準が採用されているかを理解したり、特定の分野における現地の状況を学んだり、提供できる保証を現地の規制に合わせて再構成したりすることもできます。

‍

Connor氏がカテゴリーと閾値について話していましたが、残念ながら、規制とはそういうものです。規制当局は常に区分を設けます。そして人々は、ある物事が誤った区分に入っている、あるいは閾値の水準が適切でないと不満を言いますが、区分や閾値は時間とともに変わっていきます。ほとんどの政策担当者が機械学習の専門知識をあまり持っていないことを考えれば、世界の規制当局はかなりよくやっていると思います。注目すべき重要な組織はNISTです。AIガバナンスのベストプラクティスとは何か、次々に登場する規制標準にどう対応すべきかをめぐって、膨大なノイズがあります。実際、昨年はシグナル対ノイズ比という点で状況がかなり悪化しました。どの組織を信頼すべきかを見極めるのは、はるかに難しくなっています。最善策は、3つの防衛線など、すでに持っているものを活用することです。

‍

英国に関するRyan氏の指摘についてですが、英国は3つの観点で非常に賢明だったと思います。第一に、AI安全研究所を設立しました。米国企業の最先端の基盤モデルはすべて米英の機関によって検証されるため、英国はそれらを把握できるようになります。第二に、英国は今もEU規則の標準を設定する権限を持つ標準化団体のメンバーです。ある意味で、英国はEU AI Actの標準策定段階において、依然として発言の場を持っているのです。第三に、リスク管理システムを導入していることを企業に証明させるEU AI Actの要件は、多くがロンドンに拠点を置く専門アドバイザリー企業にとって大きな商機となります。そのため、そうした企業の多くがこの規則から相当なビジネスを得ることになるかもしれません。

‍

3つの防衛線について触れられました。これは金融サービスや保険の分野ではよく知られた概念ですが、他の業界ではそれほどではありません。AIリスクを管理するうえで、3つの防衛線はどの程度適用できるのでしょうか。また、他の組織も検討すべきものだとお考えですか。

‍

MK:どの業界に属しているかによって異なります。全般的に、AI安全サミットから発信されたメッセージは、世界の歴史を通じて、かつてはやや危険とみなされ、その利用が人々を不安にさせていたものの、今ではそうではなくなった分野があるということでした。私たちがそうしたリスクを管理し、社会の信頼を得てきたのは、安全基準を通じてです。航空、あるいは交通全般を見ても、厳格な安全点検や規制があることを知っているので、飛行機に乗ることを心配する人はいません。医薬品と臨床試験の段階的なアプローチを見ると、これは基盤モデルにも適用すべきだと提案する人もいるアプローチです。安全研究所の使命の一つは、こうした高度に規制された分野の標準を、AIの世界にどこまで移転できるかを検討することです。

‍

3つの防衛線は、金融サービス分野にかなり特有のものです。しかし、その本質は他の業界にも通用します。第1線は、事業部門、つまりプロダクトオーナーです。彼らはリスクを所有し、リスクを特定し、コントロールを特定し、軽減策を講じ、結果をモニタリングする責任を負います。説明責任は事業部門にあります。第2線は、リスク管理者、弁護士、データガバナンスチーム、サイバーセキュリティチームなど、すべての支援パートナーです。彼らは学際的なワークショップを通じて専門知識を提供し、事業部門の対応における課題をすべて洗い出します。そして、事業部門が関係者を集め、特定のプロジェクトについて定められたリスク選好に照らして、すべてのリスクを登録し、定量的に評価できるよう支援します。第2線はモニタリングも支援します。そして第3線は監査人であり、リスクの特定と管理に関して行ったすべての作業が、説明したとおりになっているかを定期的に確認します。全般的に言えば、すでに高度な安全対策が講じられている分野に目を向け、それをこの分野にどこまで移転できるかという点が重要です。

‍

対策は、自社の取り組みに即したものであることが極めて重要です。たとえば、企業間取引(B2B)向けに、表形式データを扱うバックオフィスのロジスティック回帰による異常検知サービスを運営しているのであれば、基本的人権の問題が必ずしもAI利用における最大のリスクになるとは限りません。

‍

リスクの所有という、非常に興味深い論点に触れました。これはそのまま説明責任の問題につながります。AIリスクの管理における最終的な説明責任は、バリューチェーン全体のどこにあるとお考えですか。

‍

CD:Ada Lovelace Instituteでは、この問題について多くの検討を重ねてきました。Martin氏が述べたことに加えて、複数の防衛線という概念は、AIのバリューチェーンに非常によく当てはまります。EU AI Actに関する課題の一つは、製品安全の視点をとったために、導入段階に焦点が置かれていることです。当研究所の調査では、実際にはそれよりはるかに複雑であることが繰り返し明らかになっています。リスクはバリューチェーンのどの時点でも発生しうるため、説明責任をどこに割り当てるかについて、画一的な答えはありません。

‍

明らかなのは、説明責任をバリューチェーン全体に配分すべきだということです。たとえば、設計・開発段階での判断や、モデルの学習時にどのデータを投入するかという判断は、導入されたアプリケーション層でのアウトプットにも確実に影響を与えます。リスクがどこで発生するかを考えることは、拠り所とすべき有用な考え方の一つです。リスクの発生源は非常に重要です。リスクの拡散も、規制当局が注目すべき重要な点です。たとえば、モデルがクラウドホスティングサービスにアップロードされ、API経由で提供されるようになると、リスクが拡散する可能性があります。まさにそのとき、有害となりうるものが、より広く利用可能になることで増幅されうるのです。これは、規制当局にとって、リスクがどこで発生し、どのように軽減できるかを問う有効な介入ポイントとなる可能性があります。

‍

説明責任がどこにあるかを明確に言うことはできません。説明責任は共有される必要があり、リスクの発生源に的を絞ったものでなければなりません。他の分野から学べる興味深いガバナンスモデルもあります。たとえば、3つの防衛線です。私たちが最近注目しているのは米国のライフサイエンス規制で、要するに、AI版のFDAとはどのようなものになりうるかという点です。この研究は数日中に公表する予定です。鍵となるのは、価値の高い情報へのアクセスを確保し、開発者と規制当局の間に見られる情報の非対称性に対処することです。たとえば、食品医薬品局(FDA)は医療機器を規制するための情報にアクセスできます。製品のライフサイクル全体を通じて、開発者と規制当局の間に継続的な関係があります。特定の標準に基づいて的を絞った審査を行う選択肢もあります。これは、リスクの発生源が非常に不明確なバリューチェーンに対処するうえで有効な方法です。また、規制当局が価値の高い情報にアクセスできるチェックポイントを見つけることで、時間をかけて学び、能力を高めていくうえでも有効な方法です。

‍

上市前の段階では、開発者と導入者に大きな説明責任があります。そして上市後の段階では、ライフサイクル全体を通じてリスクを確認できる強力な規制当局が必要です。これはおそらく第2線と第3線に相当するもので、私たちが「検査のエコシステム」と呼ぶものによって支えられるべきです。つまり、Martin氏が述べたような監査人によるアクセスや、審査を経たレッドチームによるアクセスです。

‍

主な課題はインセンティブの問題です。AI規則では、独立した監査や、審査を経たレッドチームによる敵対的テストはおそらく義務付けられないでしょう。そこで問題となるのは、規制上の根拠がなければ、そうした審査に必ずしも応じない可能性のある提供者に、どのようなインセンティブがあるのかという点です。これが、私たちが今後考えていくテーマです。

‍

視聴者から質問が届いています。NISTのリスクマネジメントフレームワークとEU AI Actを対応付けたマッピング文書を作成していますか。

‍

CA:リスクマネジメントフレームワーク(RMF)とEU AI Act、その他さまざまな提案との間では、これまで数多くのマッピングの取り組みが行われてきました。いくつかの資料をまとめて、皆さんに共有したいと思います。

‍

MK:仮にそのような文書が存在したとしても、特定の法域で誰もが満たすべき要件について、完全な法的確実性が得られる時点が将来訪れることはありません。状況は常に変化し続けます。私たちは常に一定の不確実性のもとで活動することになり、それを受け入れる必要があります。解決策の一つは、自社の文脈に即した独自の標準を策定することです。原点に立ち返り、政策立案者に任せるのではなく、自社の文脈で自ら考え抜くのです。独自の標準をいくつか定義し、それに照らした監査証跡を作成してください。その監査証跡は、ライフサイクルのあらゆる段階において、説明責任のための透明性を示したいときに活用できます。

‍

ただし、さまざまな法域の標準や要件をLLMや、文書を完全にマッピングするプラットフォームに放り込みさえすれば、あとはすべての項目にチェックを入れるだけで済む、という考え方には注意を促したいと思います。これは変化し続ける環境なので、現実的ではありません。

‍

RD:まったく同感です。私たちは近々、無料のAIポリシーガイドを公開する予定です。まさにこうした点、つまりこれらのフレームワークの一部を自社に合わせて調整し、自社にとって何が重要かを丁寧に見極める必要があるという点を取り上げています。既製のものをそのまま導入すればよいという話ではありません。

‍

知的財産について、またこの分野で知的財産の問題が今後どのように展開していくのかについて、質問が届いています。

‍

Ryan:インセンティブはこの問題全体においても重要な検討事項であり、そのインセンティブは必ずしも想像どおりのものではありません。現在どのように展開しているかの例を挙げると、大規模な基盤モデルの多くには、知的財産に関する深刻な懸念があります。あらゆるところからデータを収集しているからです。すでに大規模なデータセットを保有している大手プロバイダーの一部は、知的財産に関する補償を打ち出しています。「このモデルの学習に使ったデータはすべて当社が所有していると確信しているので、そのような事態は起こりえないと考えています。だからこそ、世界のどこであれ、知的財産法に違反したとして誰かが将来起こしうるあらゆる請求から、お客様を補償すると自信を持ってお約束できます」というものです。これが、そうした製品への大きな信頼につながっています。

‍

知的財産やこうした大規模モデルに関する具体的なルールを待つのではなく、組織が自ら率先して、このリスクを顧客から完全に取り除くと表明しているのです。自社のツールを信頼できるものにしようとしているわけです。これは非常に説得力があり、インセンティブが当初の想定とは少し異なる場合があることを示していると思います。同様に、サイバーセキュリティの分野に目を向けると、SaaS(Software as a Service)企業が満たす必要のある高い標準が数多くあります。ISO/IEC 27001やSOC 2などがその例ですが、これらは規制当局が求めているものではありません。

‍

それでも、組織には標準に準拠する市場インセンティブがあります。顧客のデータを守るために最高水準のサイバーセキュリティ標準に準拠していなければ、誰もそのソフトウェアを購入しないからです。この市場インセンティブは見過ごされがちです。

‍

大統領令は大きな影響を及ぼすでしょうが、米国では州レベルでも多くの取り組みがありますね。たとえばニューヨークの地方法144号を思い浮かべていますが、こうした取り組みは州レベルで、特定の業界に焦点を当てているようです。こうした動きは、より広範な連邦レベルの取り組みとどのように相互に作用するとお考えですか。

‍

CA:とても良いご指摘です。特に連邦議会が動かない中で、来年は州レベルで非常に多くの動きが見られるでしょう。上院多数党院内総務のチャック・シューマー氏によるAIインサイトフォーラムに大きな注目が集まっています。同氏は主要なAI専門家を招いて約10回の重点的な円卓会議を開催し、透明性、説明可能性、国家安全保障、バイアス、公民権といった個別のテーマについても議論を行いました。しかし、ワシントンの政治的な現実は変わりません。来年は大きな選挙を控えています。非常に重大な選挙です。インサイトフォーラムや大統領令の実施を踏まえた法案について上院で大きな進展があったとしても、包括的な法案が成立したり、私たちが懸念している多くのAIの害に対処できたりする可能性は非常に低いでしょう。

‍

その空白を埋めるように、多くの州がすでに動き始めています。ニューヨーク市は地方法144号を可決しました。これは、採用だけでなく雇用全般において、AIを用いた採用技術を利用する場合にバイアス監査を義務付けるものです。AI技術を活用した従業員のモニタリング、面接、定期面談などを行う企業は、バイアス監査を実施しなければなりません。実施方法はまだ詰められている段階です。今後は、分野別の法案が数多く登場するほか、州政府におけるAI人材と効率性を強化する法案も出てくるでしょう。分野別の法案については、コロラド州に、保険の意思決定においてデータソースがどのように使用され、AIによってデータがどのように分析されるかを対象とする保険関連の法律があります。この法律はすでに成立しており、まさに今、施行が進められています。コネチカット州では、ジェームズ・マロニー州上院議員が州をまたぐAIワーキンググループを立ち上げ、バイアスや差別、選挙の公正性など、こうした問題に強い関心を持つ州レベルのさまざまな議員を結集しています。

‍

2024年の大統領選挙は、バイデン大統領のAIに関する大統領令の実行にどのような影響を与える可能性がありますか。

‍

CA:バイデン政権が、選挙の年を迎えるにあたり、この大統領令をできる限り多く実施することに注力していることはよく承知しています。特に、前回のAIに関する大統領令が実施面で十分な成果を上げられなかったことを踏まえるとなおさらです。来年何が起こるのか、非常に興味深いところです。トランプ氏自身もすでに選挙運動の中で、就任初日にバイデン大統領の「ウォークAI大統領令」を撤回し、言論の自由を守ると表明しています。政治的な立場にかかわらず、これらは非常に予想しやすい論点と立場です。ここから言えるのは、米国ではAIガバナンスが政治的な問題であり、特に今回の選挙に向けて、今後もその状況が続くということです。連邦レベルでも注目すべき点は多くあります。それ以上に重要なのは、州レベルの動きに注目することです。こうした問題に強い関心を持つ新進の公選職者が数多くいるからです。

‍

来年は欧州でも選挙があります。それはEU AI Actのスケジュール、特に発効にどのような影響を与えるでしょうか。

‍

CD:まったく影響がないことを願っていますが、影響が出る可能性もわずかにあります。選挙の影響を受けないようにするには、遅くとも3月までに条文の技術的な起草を終える必要があります。そのため、基本的には3月以降に次の段階の作業が始まることになります。現時点では、時間は十分すぎるほどあるように見えます。大きな支障は想定していません。ただし、強い反発があれば支障が出るかもしれません。フランスが法案の成立を阻止しようと、妨害的な形で介入する可能性もあります。そうなれば、3月までに合意できないリスクがあります。実際には作業が2025年まで延期されることになり、控えめに言っても混乱を招くでしょう。新たな議員が選出されるからです。議会の顔ぶれが変わる可能性があり、異なる優先事項を持つ新しい人々がこの案件を引き継ぐことになります。

成立すれば、EU官報への掲載後、2年間の移行期間を経て適用が開始されます。条文はおそらく2024年初めに公表されるため、ほとんどのAIアプリケーションにとって、2026年が準拠を求められる年になります。システミックリスクを持つ汎用AIモデルについては、公表から1年後の適用開始を目指しています。

‍

以上で、AIシステムの責任ある開発とガバナンスに関する、非常に示唆に富んだ議論を終わります。専門知識と視点を共有してくださったパネリストのConnor氏、Martin氏、Chloe氏、Ryan氏に心より感謝申し上げます。ご参加いただいたすべての皆さまにも厚くお礼申し上げます。ぜひイベントページやソーシャルメディアのチャンネルで、引き続きこの対話にご参加ください。

‍

ウェビナーの録画全編はYouTubeでご覧いただけます。

Enzaiは、抽象的なポリシーを実効性のある監督体制へと移行させるために設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、自律型AI(エージェンティックAI)ガバナンスの運用、包括的なAIインベントリの維持、EU AI Actへの準拠に必要な専用インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバル標準との整合性を保ちながら、自信を持ってAI活用を拡大できるよう支援します。

目次

設計段階からのコンプライアンス

設計段階からのコンプライアンス

設計段階からのコンプライアンス

2023年からISO 27001認証を取得、NQAによる年次監査

GDPRに沿ったデータ取り扱い

顧客データは複数リージョンのAWSでホスト

独自のAIモデルをプライベート接続で利用可能

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

ニュースレターを購読する

登録することにより、お客様はEnzaiのプライバシーポリシーに同意したものとみなされます。

AIガバナンス

AIガバナンス

インフラストラクチャ

インフラストラクチャ

信頼を築くための設計。

信頼を築くための設計。

チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。

既存のシステム、ポリシー、AIワークフローをひとつのプラットフォームに接続します。

既存のシステム、ポリシー、AIワークフローをひとつのプラットフォームに接続します。