AIと政策の展望 - 2025年の将来を見据えて

‍パネル登壇者:

• Jamaur Bronner, Co-Founder, The Foregrounds

• Monika Viktorova, Responsible Tech Product Manager, Logistics Industry

• Jason Green-Lowe, Executive Director, Center for AI Policy

• Moderator: Var Shankar, Chief AI and Privacy Officer, Enzai

VSによる導入:

• パネリストの紹介を行います。

• 議論はAI政策と技術に焦点を当て、変化の大きい2025年を見据えています。

第1部: 2025年にAIはどこへ向かうのか?

MV:

• 悪い面: 生成AIの悪用は、利用のしやすさと低コスト化により増加しています。例として、詐欺のための音声クローン作成、CSAMの生成、大規模な偽情報拡散が挙げられます。悪意ある行為者はこの技術を効果的に悪用しています。正規の組織においても、チャットボットが誤情報を提供したり、社内ポリシーの範囲外の解決策を提示したりするなど、目立った失敗が発生しています（例: Air Canadaの事例）。GenAIは幻覚を起こしやすく、ユーザーの望みに合わせて応答を調整しやすいため、リスクが生じます。具体例としてCharacter.AIがあり、摂食障害を助長するチャットボットが脆弱なティーンエイジャーに影響を与えており、ガードレールの不十分さを浮き彫りにしています。

• 良い面: GenAIは科学的発見、特に科学と医療において大きな進展を促しています。タンパク質折りたたみ予測（AlphaFold 2）がその好例であり、創薬および開発を加速しています。

• 組織において: GenAIは各業界で広く導入されています。営業・マーケティングチームはコンテンツ作成や個別化されたアプローチに活用しています。金融などにおけるCRUDアプリケーションでは、GenAIを（ガードレールと人間の監督のもとで）レポート自動化に用いることで、生産性が大幅に向上しています。検索拡張生成（RAG）は大規模な文書リポジトリとの対話を可能にし、情報管理を支援します。ただし、幻覚と出典確認についてのユーザー教育が不可欠です。

• 重要な示唆: 生産性向上の可能性は非常に大きい一方で、堅牢なガードレール、ユーザー教育、幻覚への対処が不可欠です。大企業におけるROIと価格モデルは、なお重要な論点です。

JGL:

• 基盤モデルにさらに改善がなくとも、技術革新には大きな未開拓の可能性があります。組織は、現在のモデルを最大限活用し、新たな市場ニッチを探索し、対話手法の制約を解消することに注力する必要があります。現在の対話は限られており（テキストベース、短いプロンプト、即時応答）、将来の対話では、より大きなコンテキストウィンドウ、AIの「思考時間」、自己プロンプト、マルチメディア対話（音声、映像、音楽、車両制御）、さらにロボティクスとの統合による実世界でのインパクトが想定されます。

• モデルスケーリングが一時的に鈍化しても、進歩が永続的に止まることはありません。電力、データ、資金調達といったボトルネックは指数成長に影響を与える可能性がありますが、線形成長はなお見込まれます。2025年モデルは、2024年モデルより大幅に高性能になる可能性が高いでしょう。性能が頭打ちになっているという報告は、企業が投資や実際の進展について戦略的に控えめにしているため、誤解を招いている可能性があります。

第2部: 2025年に政策はどこへ向かうのか?

JGL:

• 米国政策の不確実性: 選挙戦ではAIについての議論はほとんどなく、共和党綱領においても、バイデンのAI大統領令を「自由な言論と人間の繁栄」に基づくAIに置き換えるという暗示的な言及があったのみです。‍

• 「自由な言論」の側面: 偽情報への懸念（検閲と見なされる）や政治的正しさへの反発が背景にあるとみられます。‍

• 「人間の繁栄」の側面: 意味は明確ではありません。AIに関するバチカンの見解や、家族福祉と適切な職務に関するシカゴ学派の経済学研究との関連が考えられます。‍

• 多様なアドバイザー: トランプ政権のAIアプローチは、現時点では多様な顧問団の存在により不透明です。‍

• 期待: 超党派のAI安全研究所のような取り組み、テストと安全基準に関する革新的企業との協力、セキュリティ・ガードレールの導入を通じた米国のリーダーシップ継続への期待があります。

MV:

• 米国対EU: 米国の大統領令は任意の対応に重点を置く一方、EU AI Actは厳しい罰則（数百万ユーロ規模の罰金）を定めています。EUのアプローチは、将来の米国政策における同様の罰則の参考となる可能性があります。

• グローバルな規制環境: 中国、ブラジル、オーストラリアなどで規制が生まれつつある断片的な環境により、製品チームと経営陣に摩擦と課題が生じています。多国籍企業は、各法域に対応するため、製品ロードマップ、機能セット、基盤アーキテクチャ、モデルを調整する必要があります。

• EUの執行: GDPRにおける著名な執行事例と巨額の罰金に対するEUの重視は、AI Actの執行におけるモデルとなり得ます。特に多国籍企業を中心に、組織の製品開発および展開への向き合い方に影響を与えるでしょう。

第3部: これは組織と実務家にとって何を意味するのか?

JB:

• スキル向上と適応: AIへの適応は一貫性を欠き、不十分であり、懸念を生んでいます。多くの企業はGenAIを戦略上重視している一方で、アップスキリング計画を欠いています。組織はAI教育と標準化に注力する必要があります。

• ROIの測定: CursorやGitHub Copilotのようなツールによる生産性向上は、個々の開発者にとどまらず、組織全体で追跡し、拡大していく必要があります。

• リスク軽減: 標準化されていないGenAIの利用は、組織に重大なリスクをもたらします。バックテスト、人間の監督、慎重な分析が不可欠です。

• スキルセットの変化: GenAIツールにアクセスできる若手開発者は、「AI対応開発者」となり、創造的な問題解決とソリューション設計に注力するようになります。これに伴い、職務記述書、人事慣行、評価制度の見直しが必要になります。

• 雇用の置き換え懸念への対応: 一部の業務機能は再配分される可能性がありますが、焦点はAIを実現要因として活用することに置くべきです。責任ある組織は、職場、ワークフロー、職務記述書を再構想し、新たな機会を創出するとともに、人間の監督を効果的に活用すべきです。

• ‍組織への示唆／ベストプラクティス: 多くのベストプラクティスは、従来のコンサルティングやビジネススクールではなく、十分な資源を持つ組織や事例研究から、リアルタイムで生まれています。

JB 続き: ベストプラクティスの情報源

• 基盤モデル提供企業: CohereのLLM Universityなどの教育施策やOpenAIの同様の取り組みは、貴重なリソースを提供しています。

• AI教育パートナー: The Foregroundsのような組織は、事例研究を集約し、成功と失敗を評価し、専門家へのインタビューを通じてベストプラクティスの理解と普及を進めています。

• 社内のAI倫理／ガバナンスチーム: これらのチームは、組織内のコンプライアンス、責任ある導入、部門横断の整合性を推進します。

• 政府および政府向け機関: シンガポールの国家AI戦略やCenter for AI Policyの取り組みのような施策が、ステークホルダーの整合を通じて世界的なベストプラクティスに影響を与えています。

JB 続き: 起業促進

• 新政権の起業促進への注力に加え、従来保守政権が重視してきた分野（防衛、高度製造業）への投資拡大の可能性、さらにイーロン・マスクのような人物の影響は、起業環境に変化をもたらす可能性を示唆しています。‍

• 防衛: AndurilやPalantirのような企業は、機会の拡大が見込まれます。‍

• 高度製造業とロボティクス: 製造能力の国内回帰に注力し、AIはブルーカラー職を置き換えるのではなく補完する方向で活用されます。Figureやイーロン・マスクの人型ロボティクス分野の事業はその例です。これは産業製造の観点からも興味深い機会を提供します。‍

• クリエイティブ産業: 新しい世代の起業家やクリエイターが、音楽生成、動画制作、画像生成などにAIツールを活用しています。これらの人々はSaaS製品の専門知識の高まりに似て、これらのツールのエキスパートになりつつあり、参入障壁を下げ、新たな起業を促進しています。これは、製品開発ライフサイクルを効率化し、より迅速な反復と展開を可能にすることで実現されています。‍

• 医療と教育: これらの分野には大きな可能性がありますが、歴史的に保守的なアプローチを踏まえると、新政権がAIの広範な拡大を支援するかは不透明です。

MV続き: 小規模組織

• 大企業におけるGenAIの優位性: 多国籍展開する大企業は、より多くのデータとリソースを有していることが多く、GenAI開発で優位に立ちます。彼らは、規制上の懸念が多様で、時に相反するものにも直面します（例: 大統領令、AI Act、中国、ブラジル、オーストラリアの規制）。この分断された規制環境への対応は、製品開発と展開の複雑性を高めます。

• 小規模企業と起業家のための戦略:

• GenAIの能力を理解する: GenAIが何に優れているか、そしてそれが自社にどのような具体的利益をもたらすかの特定に注力します。‍

• 自社開発か購入か: AIソリューションを自社で構築するか、あるいは小規模組織にとってより費用対効果の高い既製品を活用するかについて、十分な情報に基づいて判断します。‍

• 調達とベンダー管理: AIベンダーを徹底的に精査し、技術力だけでなく、下流リスク、規制遵守、サイバーセキュリティ、法的観点にも注目します。これにより、社内の専門知識への依存を減らし、小規模企業でも専門ベンダーの恩恵を受けられます。‍

• 大企業から学ぶ: 大企業で確認されている調達およびベンダー管理のベストプラクティスを取り入れます。これにより、小規模企業は適切なソリューションを選定し、リスクを効果的に管理できます。‍

• 政府政策の役割: NGOへの助成金は、より広範な社会的便益のためにGenAIツールへのアクセスを促進し、より公平な競争条件を確保できます。これは、多様な分野における研究、開発、責任あるAI導入を支援し、「勝者総取り」効果を緩和する可能性があります。これにより、イノベーションと競争が促進され、少数の大手プレーヤーによる支配を防ぎます。

JGL続き: 人間とAIの協働

• 人間の影響力の維持: 難しい課題です。AIは客観的で信頼できると見なされがちで、その提案に過度に依存しやすくなります。human-in-the-loopだけでは不十分な可能性があります。

• 人間の役割の統合: 最終承認の段階だけでなく、意思決定プロセスに人間の役割を根本的に組み込むべきです。

• オラクル型AI: 最終的な行動についての推奨を行うのではなく、状況の説明や関連情報の提示のためにAIを活用します。これにより、人間はAIが生成した洞察に基づいて十分な情報を得たうえで意思決定できます。

• タスクと職務: AIは個別のタスクの自動化に優れていますが、職務全体とは一致しない場合があります。人間が最適に担うタスクとAIが最適に担うタスクを分けるよう、職務を再設計します。これにより、人間とAIの双方の強みを最大化し、相乗効果を生みます。長期的には、AIの進展に伴って人間が担うタスクが減少するという懸念は残ります。

VSによる結論:

• トランプ政権のアプローチは、まだ明確ではありません。

• EU AI Actは、グローバル組織に影響を与えます。

• 組織は、教育、人材の獲得・育成、そして適切な人間の監督に注力しなければなりません。

Enzaiは、企業が抽象的なポリシーから運用上の監督へ移行するのを支援する目的で設計された、業界をリードするエンタープライズAIガバナンスプラットフォームです。弊社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、EU AI Act コンプライアンスの確保に必要な専用インフラを提供します。複雑なワークフローを自動化することで、Enzaiは企業がグローバル標準であるISO 42001 および NISTに整合しながら、自信を持ってAI導入を拡大できるように支援します。