用語集
更新日
AIガバナンス・ソフトウェアでできることは?
AIガバナンス・ソフトウェアは、AIガバナンスプラットフォームとも呼ばれ、組織がAIガバナンスプログラムを1か所で運用できるようにするものです。中核となる機能は、製品が違ってもほぼ共通しています。AIシステムのインベントリをオーナーとともに管理する、新しいAIを申請受付とレビューにかける、各システムを法律や標準に照らして評価する、ツールやエージェントに何を許可するかをコントロールで定める、そして監査に備えてエビデンスを保持する、といった機能です。製品によって異なるのは、そのうちどこまでをカバーし、どこまでを自動化するかです。
GRCモジュールとの違いは?
現在では、多くのガバナンス・リスク・コンプライアンス(GRC)スイートがAIモジュールを提供しています。こうしたモジュールは、AIリスクを他のリスクと同じ台帳で管理したい組織に適しています。その際は、GRCモジュールがAI特有の業務をカバーしているかを確認してください。誰も登録していないAIの検出、AI関連法に基づくシステムの分類、規制の変化に合わせたAIフレームワークの更新、AIエージェントの制御などです。両者は併用されることも多く、AI特有の業務はガバナンスツールで行い、その結果をGRCに報告します。詳しくはAIガバナンスツールか、GRCモジュールかで比較しています。
MLOpsやAIセキュリティツールとの違いは?
MLOpsプラットフォームは、開発中のモデルをバージョン、実験、デプロイメントの単位で追跡します。データサイエンスチーム向けに作られており、通常は社内で開発したモデルしか把握できません。AIセキュリティツールは、プロンプトインジェクションやデータ漏えいなどの脅威に焦点を当てています。ガバナンス・ソフトウェアは、その両方の上位に位置します。社内モデルだけでなくベンダーのAIや既存製品に組み込まれたAIも対象とし、各システムの目的とオーナーを記録し、リスクとコンプライアンスに関する判断を、それが適用されるシステムに結び付けます。
選定時に確認すべき点は?
自社のチームが開発するモデルに加えて、サードパーティAI、既存ソフトウェアに組み込まれたAI機能、エージェントも検出し、記録できますか。必要な法律や標準があらかじめ用意され、改正があったときに知らせてくれますか。カスタムコードを書かずに、申請受付の質問や振り分けを自社のプロセスに合わせられますか。AIツールやエージェントにできることを制限できますか、それとも記録するだけですか。各コントロールにエビデンスを添付し、監査人向けのレポートをエクスポートできますか。
Enzaiは、規制産業の大企業向けのAIガバナンスプラットフォームです。AI検出とインベントリ、AI申請受付とレビュー、EU AI ActやISO 42001などのフレームワークに対応したAIリスクとコンプライアンス、そして各エージェントが使えるツールを設定するAIエージェントガバナンスを備えています。他のプラットフォームとの比較は、AIガバナンスプラットフォームの比較をご覧ください。
例
ある製薬会社は、承認済みのAIツールをスプレッドシートで、モデルリスクをGRCモジュールで管理しています。顧客による監査で、どのAIツールが臨床試験データを処理しているかを問われますが、すぐに答えられる人はいません。同社はAIガバナンス・ソフトウェアを導入します。スプレッドシートをインポートし、クラウドプラットフォームからモデルを追加して、AI検出を有効にすると、誰も把握していなかった数十のツールが見つかります。現在では、新しい申請はすべて1つの申請フォームを通り、各システムはEU AI Actと同社独自のポリシーに照らして評価され、GRCモジュールには毎月AIリスクの概要が送られています。
