米国副大統領JD・ヴァンス氏がグラン・パレで開催されたAI Action Summitで演説を行っていたのと同じ時、私はOECDで、AIの安全性、ガバナンス、倫理について議論するラウンドテーブルに一日参加していました。会場は同じ都市内で、わずか数本の通りを隔てただけの距離でしたが、まるで別世界のように感じられました。グラン・パレでは、AIを規制するという概念は政治的な格好の標的となり、米国のイノベーションとダイナミズムが主役でした。一方、OECDでは、AI規制の必要性はかつてなく切迫していると考えられていました。

これまで参加してきた他のどのAIサミットとも異なっていました。雰囲気はこれまでと違い、しかも分断されており、私はそれが主として現在の西洋における時代精神を反映しているのだと考えています。いま、世界各地で世論は大きく変化しています。移民、国際貿易、そして国家の役割をめぐる議論は、（見方によっては）西側民主主義国家全体に深い社会的分断を生み出し、あるいはそれをさらに悪化させています。

規制への反発

この亀裂はパリで極めて明確に示されました。政府関係者と業界の専門家が集まり、AIの最新動向について議論したのです。英国初のサミットである「AI Safety Summit」とは対照的に、パリでのテーマは迅速なイノベーションと、取り残されることへの危機感でした。雰囲気は明白です。いまや「plug, baby, plug」1 の時代であり、先端技術を規制するという発想は真正面から標的にされています。これは単なる機会主義の極致なのでしょうか。それとも、もう少し危険な何かなのでしょうか。

私は、この規制への反発の背景にある感情を理解しているだけでなく、その多くに共感しています。AIガバナンスのスタートアップ創業者がそう言うのは奇妙で逆効果に聞こえるかもしれませんが、私は本気でそう考えています。AI技術には、私たちの生活をより良い方向へ変革する大きな可能性があると、私は強く期待しています。それを実現するには、たゆまぬイノベーションが必要であり、設計のまずい規則の枠組みでは到底たどり着けません。市場参加者に不必要で、しばしば現実離れした負担を課すばかりのばかげた規則は、誰の役にも立たず、進歩とイノベーションに対する正当な脅威にもなり得ます。

しかし、ここで少し別の世界を考えてみてください。というのも、上の段落で「設計のまずい」という形容詞が、ここでは議論の大半を支えているからです。では、代わりに有用な規則を設計するとしたらどうでしょうか。『良い法律は良く、悪い法律は悪い』という格言は、デジタル時代ほど真実味を増したことはありません。AI規制が、その技術固有の特性と、それが適用される社会的文脈を踏まえて文脈に即した形で策定されるのであれば、それは社会にとって純粋なプラスになり得るのではないでしょうか。優れた規制とは、悪質な行為者を統制し、違反に対して罰することを可能にし、同時に、社会の前進に資することを目指す組織が、高い基準から成る強固な枠組みの中でそれを実現できるようにするものです。適切な枠組みが整えば、全ての参加者が同じルールの下で同じゲームを行いながら、イノベーションは大きく花開くはずです。

ルールはすべて悪いわけではない

この新しい見方にまだ納得できませんか。では、いくつかの原則を文脈から切り離して考えてみてください。ラグビーという競技が今のラグビーであるのは、まさに両チームが従うルールがあるからです。もちろん、その一部については、その是非を議論できますし、議論すべきです（私は、トライライン上で押しとどめられた場合のルールは攻撃側に厳しすぎて、試合の緊張感を削いでいると思います）。しかし、競技ルールそのものを全面的に廃止すべきだと言う人はいません。タックル時に選手の頭部を保護するための最近のルールは、導入にあたり多くの混乱を伴いましたが、選手の安全と競技の長期的な存続の双方にとって不可欠です。実際、こうした新しいルールは、競技が存続するだけでなく、さらに発展することを可能にしています。

ソーシャルメディア時代は、規制を怠ることの代償について厳しい教訓を示しています。10年以上にわたり、プラットフォームは、データの取り扱い、コンテンツアルゴリズム、そして若者のメンタルヘルスへの影響について、事実上ほとんど監督を受けることなく、何十億人ものユーザーへと拡大することを許されてきました。そこではイノベーション第一のアプローチが採られ、標語は文字通り「move fast and break things」でした。その結果は痛烈なまでに明らかでした。Cambridge Analyticaのような前例のないプライバシー侵害、圧力にさらされる民主主義制度、そして10代のメンタルヘルスへの害が記録として確認されています。規制当局が動き始めた頃には、こうした問題は深く根を張り、解決ははるかに難しくなっていました。

この分析をAI規制に当てはめる

そして、このパターンがAIでも再び起こり得ることは明らかです。説明責任の仕組みよりもスピードを優先すると、進歩を可能にするまさにその基盤を損ないかねません。AI規制に対して最も一貫して向けられる批判の一つは、対応しきれない肩に追加の複雑な規制負担を課すというものです。たしかに、表面的にはもっともらしい批判に聞こえますが、EU AI Actに関して言えば、それは単純に当てはまりません。明らかに高リスクなAI技術に対して、リスク管理システム（第9条）（「RMS」）や品質管理システム（第17条）（「QMS」）を導入することは、過大な要求ではありません。実際、質の高い企業であれば、顧客の信頼構築にもつながるため、商業的な観点から見ても、いずれ実施する取り組みです。さらに、EU AI Actが小規模企業に不当に不利だと考えるなら、罰則に関する第99条第6項のスマートSME条項に注目してください。何よりも重要なのは、AIが医療、法務、金融の変革を支援できるのと同様に、規制対応においても力を発揮できるという点です。EnzaiのAIガバナンス・プラットフォームは、組織が包括的なAIコンプライアンス・プログラムを効率的かつ大規模に実装できるよう支援します。

AI責任指令は、今年のAIサミットにおける特に残念な犠牲者でした。念のためおさらいすると、責任指令は、AIシステムの結果として請求者が損害を被った場合に、AIシステムと発生した損害との間の詳細な因果関係まで立証する必要がないように設計されていました。また同指令は、QMSおよびRMSを証明できる被告に有利な、強力な反証可能推定も設けていました。しかし結論として、これがイノベーションを後押しする措置のように見えるとしても、実際にはその正反対です。その結果として生じるのは法的不確実性であり、規制緩和を目指す立場には役立たないどころか、その欠点をさらに拡大してしまいます。

未来への展望

AI Action Summit の翌日、Anthropic はパリで初の AI Builders Summit を開催しました。Anthropic のCEOである Dario Amodei 氏が、このサミットを「失われた機会」と表現し、議論を安全性、透明性、そして非常に強力なAIによる経済的恩恵を誰もが享受できるようにすることへと再び戻したのを聞き、心強く感じました。AIの未来は、壮麗な宮殿で最も大きな声を上げる人によって決まるのではありません。これらの強力なツールを、いかに信頼性高く、責任ある形で機能させるかを見極めるための、静かで着実な作業を厭わない人々によって築かれていくのです。

‍

1 このフレーズは、AI Action Summitでの演説の中で、フランスのエマニュエル・マクロン大統領が考案したものです

‍

Enzaiは、抽象的な方針から運用上の監督へと移行することを支援するために特別に設計された、主要なエンタープライズAIガバナンス・プラットフォームです。当社のAIリスク管理プラットフォームは、エージェンティックAIガバナンスを管理し、包括的なAIインベントリを維持し、EU AI Actへの準拠を確実にするために必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業が ISO 42001 やNISTといった世界標準との整合性を維持しながら、AI導入を自信を持って拡大できるよう支援します。