ブログ
•
9分で読めます
パネリスト:
Jamaur Bronner(The Foregrounds 共同創業者)
Monika Viktorova(物流業界 Responsible Tech プロダクトマネージャー)
Jason Green-Lowe(Center for AI Policy エグゼクティブディレクター)
モデレーター:Var Shankar(Enzai Chief AI and Privacy Officer)
イントロダクション(VS):
パネリストを紹介します。
変化の大きい2025年を見据え、AI政策とテクノロジーを中心に議論します。
第1部:2025年、AIはどこへ向かうのか
MV:
負の側面:生成AIは手軽に利用でき、コストも下がっているため、悪用が増えています。例として、詐欺を目的とした音声クローン、児童性的虐待コンテンツ(CSAM)の生成、大規模な偽情報の拡散が挙げられます。悪意ある攻撃者はこの技術を巧みに悪用しています。正当な組織においても、チャットボットが誤情報を提供したり、会社の方針に反する対応を示したりするなど、注目を集める失敗が起きています(Air Canadaの事例など)。生成AIにはハルシネーションを起こしやすく、ユーザーの望む方向に回答を合わせる傾向があり、これがリスクを生んでいます。具体例としてCharacter.AIでは、拒食症を助長するチャットボットが脆弱な10代に影響を与えており、ガードレールの不十分さが浮き彫りになっています。
正の側面:生成AIは、特に科学や医療の分野で、科学的発見の大きな進歩をもたらしています。タンパク質の立体構造予測(AlphaFold 2)はその好例で、医薬品の設計と開発を加速させています。
組織での活用:生成AIは業界を問わず幅広く導入されています。営業・マーケティングチームは、コンテンツ制作やパーソナライズしたアプローチに活用しています。金融をはじめとする分野のCRUDアプリケーションでは、(ガードレールと人による監視のもとで)生成AIをレポート作成の自動化に使うことで、大幅な生産性向上を実現しています。検索拡張生成(RAG)により膨大な文書リポジトリとの対話が可能になり、情報管理に役立っています。ただし、ハルシネーションや情報源の確認についてのユーザー教育が不可欠です。
要点:生産性向上の可能性は非常に大きい一方で、堅牢なガードレール、ユーザー教育、ハルシネーションへの対策が欠かせません。大規模組織にとってのROIと価格モデルは、依然として重要な課題です。
JGL:
基盤モデルがこれ以上改善されなくても、技術革新には未開拓の大きな可能性があります。組織は、現行モデルを最大限に活用し、新たな市場ニッチを開拓し、対話手法の「足かせを外す」ことに注力すべきです。現在の対話は限定的です(テキストベース、短いプロンプト、即時の応答)。しかし今後は、より大きなコンテキストウィンドウ、AIの「思考時間」、自己プロンプト、マルチメディアでの対話(音声、動画、音楽、車両制御)、さらには現実世界に影響を与えるロボティクスとの統合などが考えられます。
モデルのスケーリングが一時的に減速しても、進歩がいつまでも止まることはありません。電力、データ、資金といったボトルネックが指数関数的な成長に影響する可能性はありますが、それでも直線的な成長は見込まれます。2025年のモデルは、2024年のモデルより大幅に高性能になる可能性が高いでしょう。各社は投資や実際の進捗について戦略的に口を閉ざしているため、性能が頭打ちになっているという報道は実態を反映していない可能性があります。
第2部:2025年、政策はどこへ向かうのか
JGL:
米国の政策の不確実性:選挙戦ではAIについてほとんど議論されませんでした。共和党の政策綱領には、バイデン政権のAIに関する大統領令を「言論の自由と人間の繁栄」に基づくAIに置き換えるという、真意の読み取りにくい言及があるのみです。
「言論の自由」の側面:偽情報への懸念(検閲と受け止められているもの)やポリティカル・コレクトネスに対する反発が予想されます。
「人間の繁栄」の側面:意味は不明確です。AIに関するバチカンの発言や、家族の福祉と適切な雇用に関するシカゴ学派の経済学研究との関連が考えられます。
多様なアドバイザー:アドバイザーの顔ぶれが多様なため、トランプ政権のAIに対する方針は現時点では不透明です。
期待:超党派のAI Safety Instituteなどの取り組み、試験・安全基準をめぐる革新的な企業との連携、セキュリティ面のガードレールの導入を通じて、米国が引き続き主導的な役割を果たすことが期待されます。
MV:
米国とEUの比較:米国の大統領令は自主的なコンプライアンスを重視していましたが、EU AI Actには厳しい罰則(数百万ドル規模の制裁金)があります。EUのアプローチは、今後の米国の政策で同様の罰則が導入されるきっかけになる可能性があります。
グローバルな規制環境:中国、ブラジル、オーストラリアなどで規制が次々と生まれ、規制環境はまだら模様になっています。これがプロダクトチームや経営層にとっての摩擦や課題を生んでいます。多国籍企業は、さまざまな法域の規制に対応するため、製品ロードマップ、機能構成、基盤となるアーキテクチャ、モデルを調整する必要があります。
EUにおける執行:一般データ保護規則 (GDPR) のもとで注目度の高い執行事例と多額の制裁金を重視してきたEUの姿勢は、AI Actの執行のモデルとなる可能性があります。そうなれば、組織、特に多国籍企業が製品の開発と導入にどう取り組むかに影響が及ぶでしょう。
第3部:組織と実務者にとって何を意味するのか
JB:
スキルアップと適応:AIへの適応は一貫性がなく不十分で、懸念材料となっています。多くの企業が生成AIを戦略的に優先していながら、スキルアップの計画を欠いています。組織はAI教育と標準化に注力する必要があります。
ROIの測定:CursorやGitHub Copilotなどのツールによる生産性向上は、個々の開発者が活用するだけでなく、効果を測定したうえで組織全体に広げる必要があります。
リスクの低減:標準化されていない生成AIの利用は、組織を重大なリスクにさらします。バックテスト、人による監視、慎重な分析が不可欠です。
求められるスキルの変化:生成AIツールを使えるジュニア開発者は「AIを活用する開発者」となり、創造的な問題解決やソリューション設計に注力するようになります。そのため、職務記述書、人事制度、人事評価の見直しが必要になります。
雇用喪失への懸念への対応:一部の職務は再配分される可能性がありますが、重視すべきはAIを支援役として活用することです。責任ある組織は、職場、ワークフロー、職務記述書を見直し、新たな機会を創出するとともに、人による監視を効果的に機能させるべきです。
組織への影響とベストプラクティス:多くのベストプラクティスは、従来のコンサルティングやビジネススクールではなく、リソースの豊富な組織やケーススタディから、リアルタイムで生まれています。
JB(続き):ベストプラクティスの情報源
基盤モデルの提供企業:LLM University(Cohere)やOpenAIによる同様の取り組みなど、教育的な施策が有益なリソースを提供しています。
AI教育パートナー:The Foregroundsなどの組織が、ケーススタディの収集、成功と失敗の評価、専門家へのインタビューを通じて、ベストプラクティスの理解と普及に取り組んでいます。
社内のAI倫理・ガバナンスチーム:これらのチームが、組織内のコンプライアンス、責任ある導入、部門横断の連携を推進しています。
政府および政府関連機関:シンガポールの国家AI戦略やCenter for AI Policyの活動などの取り組みが、ステークホルダーの足並みをそろえることで、世界のベストプラクティスに影響を与えています。
JB(続き):起業の促進
新政権が起業の促進を重視していることに加え、保守政権が伝統的に優先してきた分野(防衛、先端製造業)への投資拡大の可能性や、イーロン・マスク氏のような人物の影響力を踏まえると、起業環境に変化が生じる可能性があります。
防衛:AndurilやPalantirなどの企業は、事業機会が拡大する可能性が高いでしょう。
先端製造業とロボティクス:製造能力の国内回帰に重点が置かれ、AIはブルーカラーの仕事を置き換えるのではなく支える役割を担います。Figureなどの企業や、イーロン・マスク氏による人型ロボット事業がその例です。産業製造の観点からも興味深い機会があります。
クリエイティブ産業:新たな世代の起業家やクリエイターが、音楽生成、動画制作、画像作成などにAIツールを活用しています。SaaS製品で専門知識を持つ人材が増えたのと同様に、こうした人々がツールの専門家となり、参入障壁を下げ、新たな起業を後押ししています。これは製品開発ライフサイクルの効率化によって実現しており、より迅速な反復と展開を可能にしています。
ヘルスケアと教育:これらの分野には大きな可能性がありますが、これまでの保守的な姿勢を考えると、新政権がこの分野でのAIの大幅な拡大を支援するかどうかは不透明です。
MV(続き):小規模な組織
大規模組織にとっての生成AIの優位性:多国籍に事業を展開する大規模組織は、多くのデータとリソースを持つことが多く、生成AIの開発で優位に立っています。その一方で、多様で時に相反する規制上の課題(大統領令、AI Act、中国・ブラジル・オーストラリアの規制など)に直面しています。こうした断片化した規制環境への対応が、製品の開発と導入を複雑にしています。
小規模企業と起業家のための戦略:
生成AIの能力を理解する:生成AIが何を得意とし、自社のビジネスに具体的にどのような価値をもたらすかを見極めます。
自社開発か購入か:AIソリューションを自社で開発するか、既製品を活用するかを、十分な情報に基づいて判断します。小規模な組織にとっては、既製品のほうが費用対効果に優れることが多くあります。
調達とベンダー管理:AIベンダーを徹底的に審査します。技術的な能力だけでなく、下流のリスク、規制コンプライアンス、サイバーセキュリティ、法的な観点にも目を向けます。これにより社内の専門知識への依存を減らし、小規模企業でも専門ベンダーの力を活用できます。
大規模組織に学ぶ:大規模組織で見られる調達とベンダー管理のベストプラクティスを取り入れます。これにより、小規模企業でも適切なソリューションを選び、リスクを効果的に管理できます。
政府の政策の役割:NGOへの助成金は、社会全体の利益のために生成AIツールへのアクセスを広げ、より公平な競争環境を確保するのに役立ちます。さまざまな分野における研究、開発、責任あるAIの導入を支え、「勝者総取り」の効果を和らげられる可能性があります。その結果、イノベーションと競争が促進され、少数の大手企業による支配を防ぐことができます。
JGL(続き):人とAIの協働
人の影響力を保つ:難しい課題です。AIは客観的で信頼できると見なされがちで、その推奨に過度に依存しやすくなります。ヒューマン・イン・ザ・ループだけでは不十分な場合があります。
人の役割を組み込む:最終承認のステップとしてだけでなく、意思決定プロセスの根幹に人の役割を組み込みます。
オラクルAI:AIは最終的な行動を推奨するのではなく、状況を説明し、関連情報を示すために使います。これにより、人はAIが生み出したインサイトをもとに、十分な情報を得たうえで判断できます。
タスクと職務:AIは特定のタスクの自動化に優れていますが、それが職務全体と一致するとは限りません。人が担うのが最適なタスクと、AIが担うのが最適なタスクを切り分けるよう、職務を再構成します。これにより双方にメリットのある協働が生まれ、両者の強みを最大限に生かせます。ただし長期的には、AIの進歩に伴って人が担うタスクが減っていくことへの懸念が残ります。
まとめ(VS):
トランプ政権の方針はまだ明確ではありません。
EU AI Actは、グローバルに事業を展開する組織に影響を与えます。
組織は、教育、人材の獲得と育成、そして適切な人による監視に注力する必要があります。
Enzaiは、抽象的なポリシーから実運用での監督への移行を支援するために開発された、業界をリードするエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、自律型AI(エージェンティックAI)ガバナンスの運用、包括的なAIインベントリの維持、EU AI Actへの準拠の確保に必要な専門インフラを提供します。複雑なワークフローを自動化することで、EnzaiはISO 42001やNISTなどのグローバル標準との整合性を保ちながら、企業が自信を持ってAI活用を拡大できるよう支援します。
2023年からISO 27001認証を取得、NQAによる年次監査
GDPRに沿ったデータ取り扱い
顧客データは複数リージョンのAWSでホスト
独自のAIモデルをプライベート接続で利用可能
チームが利用しているAIを見つけ出し、導入前にレビューし、適用される規制に照らして評価し、エージェントにできることを制御します。規制対象組織向けに設計されています。



