「AI systems」は、EUおよび米国のAI関連法、標準、フレームワークにおける定義済みの概念です。しかし、「AI system」の定義は、実務者がその定義をどのように解釈すべきかについて、明確な指針を示していません。

EU AI Actでは、AI systemを次のように定義しています：

「さまざまなレベルの自律性で動作するよう設計され、導入後に適応性を示す場合があり、明示的または暗黙的な目的のために、受け取った入力から、予測、コンテンツ、推奨、または物理的もしくは仮想的環境に影響を及ぼし得る決定などの出力をどのように生成するかを推論する、機械ベースのシステム」

‍

AI system は AI use case と異なるのでしょうか？

AI systems には、特定のタスクを実現する複数の AI model、dataset、および非 AI 技術要素が含まれる場合があります。さらに、AI system は AI use case とは異なります。なぜなら、ある AI system は異なる use case において同じタスクを実行でき、それにより異なるリスクが生じるためです。

たとえば、複数の computer vision model、dataset、および非 AI 技術要素を用いて動画内のスポーツ用品を識別する AI system は、スポーツイベントの実況解説を提供するためにも、空港のチェックインカウンターでスポーツ用品を識別してカスタマーサービス担当者に通知するためにも使用できます。これらの各 use case には、それぞれ異なるリスクが伴います。

‍

AI system はプラットフォーム、製品、またはサービスなのでしょうか？

EU AI Act における AI system の定義（OECD の定義を基礎とし、NIST AI RMF および Colorado AI Act の定義とも概ね整合しています）を踏まえると、実務者はしばしば AI system の境界を画定することに苦慮します。AI system は、プラットフォーム（人々が特定のタスクを達成できる技術環境。たとえば、従業員によるアプリケーション開発を支援するための GPT-4 の社内インスタンス）、製品（たとえば、高齢者向けのスマート補聴器）、またはサービス（たとえば、次に視聴すべき動画を推薦するレコメンドシステム）を指す場合があります。

‍

2つの AI system が、多くの同一コンポーネントを共有することは可能でしょうか？

デジタル成熟度の高い企業では、異なるチームが異なる方法で利用できる重要な一元管理データセットを保有していることが一般的です。こうした企業では、同一のデータセットや model を参照する複数の AI system が存在することがよくあります。これらの企業の実務者は、異なる AI system 間でコンポーネントの重複が大きいため、AI system レベルでコンプライアンス文書を整備することを難しく感じる場合があります。

‍

‍

企業が取り組みを始める方法

AI system の定義を採用する：

企業は、事業を展開している法域に基づき、社内で「AI system」の定義を採用すべきです。たとえば、主として EU を対象とする企業であれば、EU AI Act における AI system の定義を社内で用い、プライバシー、データガバナンス、情報セキュリティ、リスク管理などに関する関連する社内方針に反映されていることを確実にすることができます。

利用者が多く、機微な用途を含み、AI 要素がより明確な AI system を棚卸しする：

‍今後のコンプライアンス対応に向けて、AI インベントリの作成は必要不可欠となります。しかし、企業内のすべての AI system のインベントリを作成することは、容易ではありません。実務者はまず、利用者が多い AI system、機微な用途（雇用、教育、医療、金融など）を伴う AI system、そして machine learning や generative AI system など AI 要素が明確な AI system から棚卸しを行い、その後に他の AI system へと進めることができます。

ソフトウェアと自動化を活用する：

‍AI system、model、dataset、use case 間の関係を追跡し、コンプライアンス文書を整備するには、目的に適したツールが必要です。Enzai は、企業が AI system、model、dataset、use case の各レベルで情報を取り込み、AI system レベルでコンプライアンス文書をシームレスに生成できるよう支援します。また、エンタープライズ向け AI リスクダッシュボード、各法域とのギャップ分析、自動レポート生成も提供します。

Enzai がご支援します

Enzai の製品は、貴社が EU AI Act、Colorado AI Act、NIST AI RMF、ISO/IEC 42001、その他のグローバルな規制・保証制度に適合するための支援を行います。詳細については、こちらからお問い合わせください。

Enzai は、抽象的なポリシーから実効的な監督体制への移行を支援することを目的に設計された、業界をリードする企業向け AI ガバナンスプラットフォームです。当社のAI リスク管理プラットフォームは、エージェント型 AI ガバナンスの管理、包括的なAI インベントリの維持、そしてEU AI Act コンプライアンスの確保に必要な専門インフラを提供します。複雑なワークフローを自動化することで、Enzai は、世界標準である ISO 42001 および NISTとの整合性を維持しながら、企業が自信を持って AI 導入を拡大できるよう支援します。