AI革命

AI自体は決して新しいものではありませんが（アラン・チューリングが計算機械と知性に関する画期的な論文を初めて発表したのは1950年のことです）、ここ数年、AIの能力とその導入実績はともに爆発的な成長を遂げています。その理由は一目瞭然です。革新的なAI技術が、医療から金融サービス、そしてクリエイティブ産業に至るまで、実質的にあらゆる業界に革命をもたらしたからです。 

OpenAIのGPT-4、GoogleのGemini、MetaのLlamaといったモデルのリリースに伴うジェネレーティブAI（生成AI）の最新の進歩は、これらの技術がより広く利用可能になるにつれて、この傾向をさらに加速させています。しかし、利用機会が増える一方で、ディープフェイクや誤情報、アルゴリズムのバイアスや差別、セキュリティやデータプライバシーへの懸念など、リスクも増大しています。    

‍

標準（スタンダード）の重要性

私たちの生活様式を変える可能性を秘めた新しい技術には、多くのリスクも伴います。歴史を振り返り、さまざまな技術がどのように私たちの現代生活に深く統合されていったかを分析すると、あるパターンが浮かび上がります。これらの新しいシステムに対する真の信頼を確立するために、規制または市場の慣行を通じて「標準」が確立されてきたという点です。

例えば、1880年代における商業用電気システムの誕生は、社会を完全に変貌させ、生産性、効率性、そして経済成長の向上を可能にしました。しかし同時に、電気は感電や火災といった危険に人々をさらし、怪我や死亡事故を引き起こす原因にもなりました。20世紀の変わり目に、この新しい技術のリスクを管理し事故を防止するため、英国初の電気安全ガイドラインが導入されました。これに続いて、火災リスクを回避するために設置が適切に行われ、維持管理されることを保証する、数多くの電気規格（電力標準）が制定されました。電力供給と設備の標準化により、電気の広範な普及が可能になりました。1919年にはわずか6%だった英国の家庭における電気の普及率は、1930年代末までに3分の2にまで達しました。

より最近の例としては、情報セキュリティが挙げられます。過去30年間にわたるインターネットの拡大は、繁栄するIT業界を創出し、ビジネスの運営方法やサービスの提供方法を劇的に変革することに成功しました。しかし一方で、インターネットはさまざまなリスクの中でも、特にサイバー犯罪の爆発的な増加をもたらしました。その脅威は、フィッシング詐欺から深刻なデータ漏洩、サイバーテロに至るまで多岐にわたり、新しいタイプのサイバー犯罪が定期的にニュースの見出しを飾っています。 

‍

これらのリスクに対処するため、情報セキュリティ基準が開発されました。ISO/IEC 27001規格は、組織に対して「情報セキュリティマネジメントシステムを確立、実施、維持し、継続的に改善するための指針」を提供します。ISO/IEC 27001は規制ではなく標準（規格）であるにもかかわらず、情報システムに依存している業界やデジタル記録を保持している業界全体で、広く受け入れられ、必須のものとなっています。 

自動車や航空機から、食品安全、医療機器に至るまで、他にも無数の例が存在します。時代を通じて、標準は革新的な技術を安全に導入するための枠組みを提供し、リスクを軽減・管理しながら技術を繁栄させてきました。AIの開発において、それが異なる理由があるでしょうか。

‍

AI分野における標準のメリットとは？

したがって、標準は、これまでに他の変革的技術が世界にもたらしたのと同様のポジティブな影響を、AIがもたらすことを保証する可能性を秘めています。しかし、これらの標準を効果的なものにするためには、まず軽減すべきリスクの種類を見極める必要があります。以下に、主要な検討事項をまとめました。

‍

1. バイアス、差別、または個人への危害の軽減

AIシステムは大量のデータを使用して、採用から融資、さらには刑事判決、移民、福祉手当の支給に至るまで、多様な業務において人々に影響を与える意思決定を行っています。アルゴリズムはデータセットに基づいてトレーニングされ、そこから正しい出力が何であるかを学習します。AIを使用することで意思決定を迅速化できるため、例えば、政府は同じ時間内により多くの難民申請や給付金申請を処理できるようになり、未処理案件を削減し、サービスに対する満足度を向上させることができます。 

しかし、アルゴリズムが人間のバイアス（特に少数派に対するもの）を再現したり、悪化させたりすることがあるという証拠が示されています。2023年のGuardian紙による調査では、英国政府のツールの一部が差別的な結果をもたらし、数十人の人々が理由なく給付を取り消される事態に至った証拠が発見されました。バイアスや差別は、組織を甚大なレピュテーションリスク（評判の失墜）や、多額の費用を伴う訴訟にさらすことになります。 

標準を導入することで、組織は潜在的なアルゴリズムのバイアスを早期に検出し、警告を発して、被害が発生する前に修正することができます。例えば、NISTのAIリスクマネジメントフレームワークやISO 42001（それぞれ以下で詳細を説明します）には、バイアスのリスクを評価し、使用されるデータセットの品質を検証するための要件が含まれています。一般的な要件として、AIシステムの文脈に内在するバイアスの可能性、すなわちアルゴリズムが再現するおそれのある、特定の人口統計グループが直面してきた歴史的または構造的な不利益に焦点を当てた、初期リスクアセスメントの実施が求められます。 

‍

2. 透明性と説明責任の向上

人々は、AIシステムがいつ、どのように、どのような目的で使用されているかを理解する必要があります。これは、幅広いステークホルダーがアクセスしやすい言葉で説明されなければなりません。残念ながら、特定の意思決定（例えば、与信申請の承認など）の背後にAIシステムが存在することを、ユーザーが常に認識しているとは限りません。AIが使用されていることを認識している場合であっても、システムがどのようにしてその決定に至ったかに関する情報は、通常、十分に提供されていません。

AIシステムは高度な自律性を持って動作するため、開発者が意図しない、あるいは予測しなかった方法で意思決定に達することがあります。そこで説明責任が極めて重要になります。影響評価（インパクトアセスメント）などの保証手法を通じて、初期段階でリスクを特定するのに役立つからです。標準を確立することで、個人や組織がAIシステムの行動や決定に対する責任（オーナーシップ）を持つようになり、常に人間が関与（human in the loop）することが保証されます。

多くの場合、標準は、データソース、ユースケース、意思決定プロセス、性能のベンチマーク、および潜在的な限界を含む、AIシステムに関する情報の文書化を組織に要求します。この情報は、アルゴリズムがどのように機能し、どのようなパフォーマンスを示しているかを理解し、伝達するために極めて重要です。多くの標準は、ユーザーがAIシステムと対話していることを認識させる「製品ラベリング」を促進することにより、透明性を高めています。EnzaiのAIポリシーガイドは、AIシステムのライフサイクル全体を通じて透明性と説明責任の測定基準を導入する方法について、有益なアドバイスを提供しています。
‍

3. リスク管理の強化

AIは素晴らしい機会を提供する一方で、多くのリスクを伴います。これらのリスクには、ハルシネーション（大規模言語モデルが誤った情報を生成する現象）のリスク、知的財産権の侵害、データプライバシーの侵害などが含まれます。効果的なリスク管理は、否定的な結果が生じる可能性を低減し、組織がステークホルダーとの信頼関係を築き、優れたレピュテーションを維持するのに役立ちます。

AIガバナンス標準において一般的な「リスク登録簿」や「リスクアセスメント」を活用することで、組織はAI技術に関連するリスクを特定、評価、および軽減することができます。  

‍

4. 安全性と信頼性の向上

AIシステムは、医療、国家安全保障、インフラなど、多くの極めて重要な領域で使用されているため、信頼性と安全性に対する強いニーズが存在します。AIシステムは技術的に安全であり、意図した通りに動作し、サイバー攻撃などのセキュリティ脅威に対して耐性を備えている必要があります。アメリカ国立標準技術研究所（NIST）によると、「攻撃者はAIシステムを誤動作させるために、意図的にシステムを混乱させたり、データを『汚染（ポイズニング）』したりすることが可能である」とされています。

パフォーマンス、正確性、スケーラビリティ、およびレジリエンス（回復力）の基準を設定することにより、組織は攻撃に対してより強固で信頼性の高いAIシステムを開発し、攻撃が発生した場合でも早期にそれを検出することができます。 

‍

5. 法令・規制の遵守

組織は、AI技術の使用を規定する関連法や規制を遵守する必要があります。EU AI法のように、AIリスクに特化した新しい法律が導入されつつありますが、製品やサービスにAI要素が含まれているからといって、既存の法制度を単純に無視することはできません。個人情報保護法、消費者保護規制、反差別法、および業界固有の規制は、すでにすべて導入されています。これらを遵守しない場合、法的トラブル、罰金、ペナルティ、およびレピュテーションの失墜につながるおそれがあります。 

標準は規制とは異なり義務ではありませんが、既存の規制への準拠を可能にしつつ、組織が関連分野におけるベストプラクティスを導入することを保証します。AI特有の標準は、効果的なリスク管理を確実にし、意思決定の監査可能な記録を作成するために、パフォーマンス指標、リスクアセスメント、ユースケース分析、およびその他の多くの対策をカバーすることができます。

‍

6. 公衆からの信頼の強化

公衆からの信頼が高まることは、AI技術の受容度や導入率の向上、ステークホルダーとのより強固な関係構築、そして市場における競争優位性につながります。一般社会は倫理的な配慮や信頼性を重視するからです。AIが私たちが望むような規模に達し、世界に貢献する力となるためには、公衆からの信頼を獲得しなければなりません。技術がどのように構築、展開、使用されるかについて高い標準を設定することは、その信頼の獲得を可能にします。

‍

標準とAIガバナンスフレームワーク 

幸いなことに、現在、AI分野では、組織が上記のリスクを管理するのに役立つさまざまな標準が利用可能となっています。アメリカ国立標準技術研究所（NIST）、電気電子学会（IEEE）、国際標準化機構（ISO）など、世界をリードする標準化団体のいくつかは、組織がAIプログラムに関して高い標準を導入するために使用できるフレームワークを最近発表しました。 

以下に、これらのいくつかの概要を簡単に記載します。

ISO/IEC JTC 1/SC 42

ISOは、国際電気標準会議（IEC）と共同で、AIにおける標準を策定するための合同技術委員会を設置し、これがISO 42001の策定・発行へと結びつきました。これらの標準は、組織が効果的なAIマネジメントシステム（AIMS）を導入することを可能にし、用語、倫理的配慮、評価方法など、AIのさまざまな側面をカバーしています。 

同チームは現在、監査人が個々の組織におけるISO 42001の要件への適合性を効果的に測定するためのガイドラインを規定する新しい標準「ISO 42006」の策定に取り組んでいます。この監査プロセスにより、組織は（前述したISO 27001に基づく情報セキュリティのプロセスと同様に）適合していることの定期的な認証を取得できるようになります。

‍

*注：Enzaiは、ISO 42001の要件に完全に準拠した包括的なAIマネジメントシステムを提供する、世界初の組織の1つです。*

NISTのAIリスクマネジメントフレームワーク

米国の米国国立標準技術研究所（NIST）は、AIシステムに特化したリスクマネジメントフレームワークを開発しました。このフレームワークは、AI技術に関連するリスクを特定、評価、軽減するための指針を提供し、AIガバナンスのコア機能である (1) ガバナンス（Govern）、(2) マップ（Map）、(3) 測定（Measure）、(4) 管理（Manage）の4つのセクションに分かれています。北米の多くの組織が、NIST AIリスクマネジメントフレームワークを指針（羅針盤）として採用しています。

NIST AI RMFの要件を説明するブログを用意しました。詳細はこちらをご覧ください。当社のAIガバナンスソリューションは、組織がこれらの要件に完全に準拠して運用できることを保証します。

OECDのAI原則

AI分野における高い標準の基準を確立するための、初期の最も顕著な取り組みの1つは、経済協力開発機構（OECD）によるものでした。OECDは2019年5月、責任あるAIの開発と使用のための、実践的かつ柔軟な一連の原則を採択しました（その後、同原則におけるAIの定義は、EU AI法の最終案に広く採用されています）。OECDのAI原則には、透明性、公平性、説明責任といった価値ベースの原則と、政策立案者への提言が含まれています。

これらの原則にとどまらず、OECDのAIポリシーオブザバトリーは、組織が信頼性の高いAIを開発・使用するのを支援するために設計されたツールや指標のカタログを提供しており、その中にはEnzaiのAIガバナンスプラットフォームも含まれています。 

世界倫理データ財団（WEDF）の「Me-We-It」：オープンスタンダード

WEDFのオープンスタンダードは、(1) 業界が健全な基盤の上で再スタートできるよう、より倫理的なAIを構築するためのアドバイスを提供すること、(2) 一般の人々がAIシステムの構築プロセスを理解できるようにすること、(3) 一般の人々がAIおよびデータサイエンスのコミュニティに対して自由に質問できるスペースを提供すること、という3つの目標を掲げて設計された、無料のライブオンラインフォーラムです。 

このフレームワークは、「Me（私）」、「We（私たち）」、「It（それ）」の3つのセクションに分かれています。WEDFはこれらを次のように説明しています。「Me」は、「AIに取り組む個々の人間が、作業を開始する前、およびプロセスを進める中で、自身に問いかけるべき質問」です。「We」は、「グループが自身に問いかけるべき質問」であり、特に、人間のバイアスを可能な限り排除するために必要な多様性を定義するためのものです。「It」は、「作成されるモデル、およびそれが世界に与え得る影響に関して、個人やグループに問いかけるべき質問」です。

AIガバナンス標準の導入

‍

組織がAIガバナンス標準の導入や、既存のプラクティスの改善を検討している場合、どこから始めればよいか判断するのが難しい場合があります。当社の「スタートファスト（迅速な開始）」メソッドは、(1) ポリシーとアセスメントの作成または選択、(2) AIレジストリの構築、(3) アセスメントの開始という、3つのシンプルなステップで必要なものをすべて提供します。Enzaiのプラットフォームには、すぐに使用できるポリシーとアセスメントフレームワークがあらかじめ用意されており、競合他社に差をつける最高水準のスタンダードをスムーズに導入することができます。 

‍

Enzaiがどのようにしてお客様の組織におけるAIガバナンス標準の導入や、今後の規制への準拠を支援できるかについて、詳細をご希望の場合は、今すぐお問い合わせください。

‍

Enzaiは、組織が抽象的なポリシーから実践的な運用監視へと移行できるよう支援するために専用設計された、最先端の企業向けAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、自律型（エージェンティック）AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を確実にするために必要な、専門化されたインフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を維持しながら、安心してAIの導入を拡張できるように支援します。