「AIシステム」は、EUや米国におけるAIに関する法、規格、フレームワークにおいて定義されている概念です。しかし、「AIシステム」の定義は、それをどのように解釈すべきかについて実務担当者に明確な指針を提供していません。

EU AI法では、AIシステムを以下のように定義しています。

「様々なレベルの自律性をもって動作するように設計され、導入後に適応性を示すことがあり、明示的または暗黙的な目的のために、受け取った入力から、物理的または仮想的な環境に影響を与える可能性のある予測、コンテンツ、推奨、決定などの出力を生成する方法を推論する機械ベースのシステム」

‍

AIシステムは、AIユースケースとは異なるものですか？

AIシステムには、特定のタスクを達成するための複数のAIモデル、データセット、および非AI技術要素が含まれる場合があります。さらに、同じAIシステムであっても異なるユースケースにおいて同様のタスクを実行し、それぞれ異なるリスクを生じさせる可能性があるため、AIシステムはAIユースケースとは明確に区別されます。

たとえば、ビデオ内のスポーツ用具を識別するために複数のコンピュータビジョンモデル、データセット、および非AI技術要素を使用するAIシステムは、スポーツイベントの解説を提供するために使用することも、空港のチェックインカウンターでスポーツ用具を識別してカスタマーサービス担当者に通知するために使用することもできます。これらのユースケースは、それぞれ異なるリスクを伴うことになります。

‍

AIシステムとは、プラットフォーム、製品、あるいはサービスのいずれでしょうか？

EU AI法におけるAIシステムの定義（OECDの定義に基づいており、NIST AI RMFやコロラド州AI法における定義とほぼ一致しています）を考慮すると、実務担当者はAIシステムの境界を明確に区別するのに苦慮することがよくあります。これは、プラットフォーム（人々が特定のタスクを達成できる技術環境。たとえば、従業員のアプリケーション開発を支援するGPT-4の社内インスタンスなど）、製品（たとえば、高齢者向けのスマート補聴器など）、またはサービス（たとえば、次に視聴すべきビデオを提案するレコメンダーシステムなど）を指す場合があります。

‍

2つのAIシステムが多くの共通コンポーネントを共有することは可能ですか？

デジタル成熟度の高い企業は、多くの場合、異なるチームが異なる方法で利用できる重要な集中型データセットを維持しています。これらの企業では、同じデータセットやモデルを利用する複数のAIシステムが存在することがよくあります。このような企業の実務担当者は、異なるAIシステムのコンポーネントに大幅な重複があるため、AIシステムレベルでコンプライアンス文書を作成することに課題を感じる場合があります。

‍

‍

企業がまず取り組むべきこと

AIシステムの定義を採用する：

企業は、自社が事業を展開する法域に基づいて、社内で「AIシステム」の定義を採用すべきです。たとえば、主にEUをターゲットとする企業であれば、社内でEU AI法の「AIシステム」の定義を採用し、プライバシー、データガバナンス、情報セキュリティ、リスク管理などに関連する社内ポリシーにそれを確実に反映させることができます。

多数のユーザー、機密性の高い用途、明確なAI要素を持つAIシステムをインベントリ（棚卸し）化する：

‍今後、コンプライアンスを遵守するためには、AIのインベントリを作成することが不可欠となります。しかし、企業内のすべてのAIシステムのインベントリを構築することは困難な作業です。実務担当者は、他のAIシステムに移行する前に、まず、多数のユーザーを抱えるシステム、機密性の高い用途（雇用、教育、医療、金融など）を持つシステム、および明確なAI要素（機械学習やジェネレーティブAIシステムなど）を持つAIシステムをインベントリ化することから始めることができます。

ソフトウェアと自動化の活用：

‍AIシステム、モデル、データセット、およびユースケースの間の関係性を追跡し、コンプライアンス文書を作成するには、目的に適したツールが必要です。Enzaiは、企業がAIシステム、モデル、データセット、およびユースケースのレベルで情報をインポートし、AIシステムレベルでシームレスにコンプライアンス文書を生成できるよう支援します。また、エンタープライズレベルのAIリスクダッシュボード、さまざまな法域に対するギャップ分析、および自動レポート生成機能も提供します。

Enzaiがお手伝いします

Enzaiの製品は、貴社がEU AI法、コロラド州AI法、NIST AI RMF、ISO/IEC 42001、およびその他の世界的な規制やアシュアランス体制に準拠できるよう支援します。詳細については、こちらからお問い合わせください。

Enzaiは、組織が抽象的なポリシーから実践的な運用監視へと移行できるよう特別に構築された、最先端のエンタープライズAIガバナンスプラットフォームです。当社のAIリスク管理プラットフォームは、エージェント型AIガバナンスの管理、包括的なAIインベントリの維持、およびEU AI法への準拠を確実にするために必要な専門的インフラストラクチャを提供します。複雑なワークフローを自動化することで、Enzaiは企業がISO 42001やNISTなどのグローバルスタンダードとの整合性を維持しながら、自信を持ってAIの導入を拡張できるようにします。