EnzaiのAIガバナンス製品のフルスイートを探求し、企業がAIを自信を持って管理、監視、拡張するのを支援します。構造化されたインテークや中央集約されたAIインベントリから、自動評価やリアルタイムの監督まで、Enzaiは日常のAIワークフローにガバナンスを直接組み込むための基盤を提供します—イノベーションを遅らせることなく。

Enzai

すべて

ホワイトペーパー

AI 規制

ポッドキャスト

製品の更新情報

報道

用語集

私たちのポッドキャストに参加するか、コンテンツの共同作成にご協力ください

お問い合わせいただければ、共に創り上げることができる製品をご提案いたします。

エー

利用規定(AUP)

組織が適用するルール一式であり、従業員が会社提供のAIツールとどのように利用・連携できるかについて、許可される方法および禁止される方法を定めたものです。

認定資格

特定の規格に対する監査を実施する能力があると、ANABやUKASなどの国家認定機関によって正式に認定された認証機関が発行する証明書です。

正確性

AIシステムの出力が実世界のデータや意図された結果を正確に反映する程度。

アクションのプレビュー

AIエージェントが、人間による最終承認の前に、取り消し不可能な操作によって何が実行されるのかを正確に表示しなければならないガバナンス要件です。

アクションホワイトリスト化

AIエージェントが実行を許可されるツール、API、およびアクションを厳格に定義する、セキュリティおよびガバナンスの制御です。

敵対的攻撃

不正な出力を引き起こすために、誤解を招く入力を導入してAIモデルを操作する技術です。

エージェント・ファブリック

複数のAIエージェントを、それらが依存するモデル、ツール、データとともにホストし、オーケストレーションし、ガバナンスする統合ランタイム基盤。

エージェント目標の乗っ取り (ASI01)

攻撃者がエージェントの目標や意思決定経路を操作し、その自律的な動作を意図しない結果へ誘導する脆弱性。

エージェント・メッシュ

共有インフラストラクチャ層を通じて、AIエージェントが互いを検出し、通信し、作業を委任し合うネットワーク型トポロジー。

エージェンティックAI

複雑な目標を自律的に追求し、ソフトウェアの展開や金融取引などの多段階のアクションを最小限の人間の介入で実行するように設計された人工知能システムのクラスです。

エージェンティックAIガバナンス

自律型AIシステムのガバナンスに関する説明です。これらのシステムは、予測AI(インサイトを提供するもの)や生成AI(コンテンツを作成するもの)とは異なり、独立した行動(例:取引、コードの展開)を実行する能力を有しています。

エージェント型ポリシーエンジン

エージェントのアクションを実行前に捕捉し、あらかじめ定義された決定論的なガバナンスルールに照らして評価する実行時ソフトウェアコンポーネント。

AIの責任

AIシステムの開発者および運用者は、そのシステムが責任を持って設計および使用され、倫理的基準と法的要件を遵守することを保証する義務があります。

AI整合

AIシステムの目的と行動を人間の価値観や意図に合わせるプロセス。

AIアシスタント

自然言語による対話を通じてユーザーのタスク完了を支援するよう設計された会話型AIシステムであり、通常は大規模言語モデルによって駆動されています。

AI監査

AIシステムの倫理基準、規制、および性能指標への適合性を評価するための体系的な評価。

AIバイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

AI部品表(AIBOM)

基盤モデル、学習データセット、ライブラリ、依存関係など、AIシステムを構成する要素を体系的に一覧化したインベントリです。ソフトウェア部品表(SBOM)に相当する、AI向けの部品表といえます。

AIコンプライアンス

AIシステムがそのライフサイクル全体を通じて適用される法律、規制、および倫理指針を遵守すること。

AI倫理

AI技術の開発と導入に関連する倫理的影響と責任に関する分野です。

AIの説明可能性

AIシステムの内部メカニズムが人間によってどの程度理解され解釈されるか。

AIフットプリント

組織全体で、ある時点に使用されているAIシステム、モデル、エージェント、および組み込みAI機能の総体。承認済みシステムとシャドーシステムの両方を含みます。

AIガバナンス

AIシステムの倫理的かつ効果的な開発と利用を支援するポリシー、プロセス、制御の枠組み。

金融サービス向けAIガバナンス

銀行・保険業界に求められる厳格な健全性規制および行動規範要件に対応するための、AIリスク管理フレームワークの専門的な適用。

AIガバナンスソフトウェア

人工知能システムの在庫管理、リスク評価、ならびに規制遵守を自動化するために使用される、専門的なエンタープライズ向け専用ツールです。

AI在庫管理

組織全体で使用されている全てのAIシステム、モデル、エージェントの包括的かつ集中管理されたカタログであり、そのビジネス目的、リスクレベル、所有権を追跡します。

EU AI責任指令

AIシステムによって生じた損害について、請求者が損害賠償を求める手続きを、因果関係についての反証可能な推定を導入することにより簡素化することを目的としたEU指令案です。

AIリテラシー

AIの概念、能力、限界を理解し、AI技術との適切な交流を可能にします。

人工知能管理システム(AIMS)

組織の相互に関連する、または相互に作用する要素の集合であり、AIの責任ある開発または利用のための方針、目的、およびプロセスを確立するもの。

AI監視

AIシステムのパフォーマンスを継続的に観察および分析し、信頼性、安全性、コンプライアンスを確保します。

AIリスク

AIシステムが引き起こす可能性のある損害や意図しない結果には、倫理的、法的、運用上のリスクが含まれます。

AIリスク管理

AIシステムに関連するリスクの特定、評価、軽減のプロセス。

AIの乱立

AIツールへの容易なアクセスと、効果的な導入受付およびインベントリ管理プロセスの欠如により、組織全体でAIシステムが統制されずに拡大していく状況。

AIシステム影響評価

AIシステムの導入が、個人、グループ、そして社会全体に及ぼし得る潜在的な影響を評価するための正式なプロセス。

AIの透明性

AIシステムはその運用、意思決定、データの使用に関して開かれており、明確であるべきという原則。

AI TRiSM(AI トリズム)

Gartnerによって作られた頭字語であるAI Trust、Risk、Security Management(AI信頼性、リスク、およびセキュリティ管理)を指します。ガバナンス、信頼性、およびセキュリティを単一の運用戦略に統合するフレームワークです。

人工知能およびデータ法(AIDA)

カナダの連邦規制枠組み(C-27法案の一部)は、影響の大きいAIシステムが安全かつ偏りなく開発・利用されることを確保することを目的としています。

アルゴリズム

AIシステムが独自に学習するのを助けるための一連の規則または指示。

アルゴリズムの偏り

アルゴリズムが機械学習プロセスの誤った仮定により系統的に偏った結果を生成する際に発生するバイアス。

アルゴリズムによるガバナンス

アルゴリズムを活用して社会的機能を管理および規制することは、意思決定プロセスに影響を与える可能性があります。

救済プログラム

従業員が、懲戒処分を受ける不安なく、承認されていないAIツールの使用を申告できる、期間限定のガバナンス施策です。

附属書I製品

EUの健康・安全に関する法令(例:機械、医療機器)により既に規制されている製品の一覧であり、EU AI Actの下で組み込まれたAIは自動的に高リスクに分類されます。

附属書IIIのカテゴリ

EU AI Act により定義された、必須のコンプライアンス対応が求められる高リスク AI アプリケーション領域の具体的な一覧。

APIトラフィック分析

外部AIサービスプロバイダーに対して行われるネットワーク呼び出しを監視・検査するための技術的なプロセスです。

第6条第3項の例外

EU AI法に基づく自己判定メカニズムであり、重大な害を及ぼさない場合に、提供者が附属書IIIのAIシステムを高リスクではないと分類できる仕組み。

EU AI法第25条

高リスク AI システムの提供者と導入者の間に直接的な義務連鎖を構築し、システムが大幅に改変された場合の責任移転も含む、EU AI 法の規定。

EU AI法 第50条

人と対話するAIシステム、合成コンテンツを生成するAIシステム、またはディープフェイクを生成するAIシステムに対して、透明性義務を定めるEU AI法の規定。

汎用人工知能

人間の知能に類似した一般的な方法で理解し、学習し、知識を適用する能力を持つAIの一種です。

人工知能

機械による人間の知能プロセスのシミュレーション、特にコンピューターシステムによるものであり、学習、推論、自己修正を含みます。

オーストラリア向け安全かつ責任あるAIポリシー

オーストラリア連邦における、公共サービスおよび政府機関でのAIの利用を規定する方針。

自動化されたAIガバナンス

ソフトウェアとAPI連携を活用し、手動介入なしで継続的かつリアルタイムにコンプライアンスチェックとリスク監視を実施すること。

B

誤差逆伝播法

ニューラルネットワークで使用される訓練アルゴリズムで、出力層から誤差を逆伝播させて重みを調整し、損失を最小限に抑えます。

バッチ学習

モデルが逐次学習ではなく、データセット全体を一度に学習する機械学習のアプローチです。

ベンチマーキング

AIシステムのパフォーマンスを標準的な指標や他のシステムと比較して、その効果を評価するプロセスです。

バイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

バイアス増幅

AIシステムが、訓練データに存在する既存のバイアスを悪化させ、ますます偏った結果を招く現象。

バイアス監査

AIシステムにおけるバイアスを検出し、緩和するための評価プロセスを策定し、公平性および倫理基準への準拠を保証します。

バイアス検出

AIモデルの出力や意思決定プロセスを分析することによって、偏見を特定するプロセス。

バイアス軽減

AI開発において、モデルやデータセット内のバイアスを削減または排除するために適用される技術。

ブラックボックスモデル

意思決定のプロセスが不透明または解釈できないため、どのように意思決定が行われるかを理解するのが難しいAIシステムです。

ボット

エンタープライズソフトウェア製品向けのマーケティングサイトにふさわしい形式で翻訳します。自動化されたタスクを実行するソフトウェアアプリケーションで、顧客サービスやデータ収集などのタスクにAIでよく使用されます。

ブラジルのAI法案(PL 2338/2023)

ブラジルにおける、AIの権利とガバナンスに関する国家的枠組みを確立するための主要な立法的取り組み。

ブリュッセル効果

EUの規制が、市場アクセス要件を通じて、EU域外に本社を置く組織においても、事実上のグローバルな標準となる現象。

C言語

カリフォルニア州AB 1008

CCPAを改正し、個人情報にはAIシステムによって生成または出力されたデータが含まれることを明確にするもの。

カリフォルニア州AB 3030

医療現場において患者とのコミュニケーションに生成AIが使用される場合に、透明性を求めるカリフォルニア州法。

カリフォルニア州の ADMT 規制

カリフォルニア州消費者プライバシー法(CCPA)に基づく、自動意思決定技術(ADMT)を規定する規則。

カリフォルニア州FEHAにおけるAI規制

公正雇用・住宅法(FEHA)に基づく、職場におけるAI主導の差別を対象とした州レベルの規制。

カリフォルニア州AI透明性法(SB 942)

大規模な生成AIシステム提供事業者に対し、検出ツールの提供と、AI生成コンテンツへの潜在的および明示的な開示の組み込みを義務付ける法規制。

カスケード障害(ASI08)

1つのAIエージェントの推論におけるエラーや悪意ある入力が、接続された複数のエージェントやシステム全体にわたる障害の連鎖を引き起こす障害モード。

因果推論

AIと統計学の分野で用いられる手法であり、因果関係を特定し、介入や変数の変更が影響を及ぼすことを理解するのに役立ちます。

CEマーキング

EEA(欧州経済領域)内で販売される製品について、AIシステムが健康、安全、および環境保護に関する基準に適合していることを示す必須の認証マーク。

変更通知期間

AIモデルに対する重要な更新を本番環境に展開する前に、ベンダーが顧客へその更新を通知しなければならない契約期間。

チャットボット

AIを搭載したソフトウェアアプリケーションは、人間の会話を模擬するように設計されており、主に顧客サービスや情報収集のために使用されます。

中国における生成AI暫定措置

中国の一般向けに提供される生成AIサービスに関する規制要件。

分類

機械学習における教師あり学習技法で、モデルがトレーニングデータに基づいて新しい観測のカテゴリまたはクラスラベルを予測します。

欧州評議会AI条約

人権、民主主義、法の支配の保護に焦点を当てた、AIに関する初の法的拘束力を有する国際条約。

認知バイアス

訓練データ内に存在する場合、AIの意思決定に影響を与える可能性がある、通常や合理性からの一貫した逸脱のパターン。

コグニティブ・コンピューティング

人間の思考プロセスをコンピュータモデルで模倣し、複雑な問題を人の手を借りずに解決することを目指すAIのサブセット。

認知負荷

AIにおけるシステム設計では、ユーザーを圧倒しないようにするために、作業記憶で使用される精神的な努力の総量が考慮されます。

コロラド州AI法(SB24-205)

高リスクAIシステムの開発者および導入者に対し、注意義務基準の実施と年次の影響評価の実施を求める、米国初の包括的な州法です。

Colorado AI Act (SB 26-189)

Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.

コンプライアンスフレームワーク

組織が規制および倫理基準を満たすAIシステムを確実にするために従うガイドラインとベストプラクティスの体系的なセット。

コンプライアンスリスク

法律、規制、または定められた慣行に従わない場合に企業が直面する法的あるいは規制上の制裁、財務上の損失、または評判の損害の可能性。

コンピュータービジョン

AIの一分野として、コンピュータに画像やビデオなどの視覚情報を解釈し処理する能力を訓練する技術です。

コンセプトドリフト

モデルが予測しようとしている対象変数の統計特性の時間経過に伴う変化は、モデルの劣化を引き起こします。

信頼区間

サンプル統計から導き出された一連の値で、未知の母集団パラメーターの値を含む可能性が高く、AIにおいて不確実性を表現するために使用されます。

適合性評価

AIシステムが指定された要件、基準、または規制を満たしているかどうかを判断するプロセスであり、多くの場合、テストおよび認証が含まれます。

内部統制(適合性評価)

EU AI Actにおいて、提供者が、自社の高リスクAIシステムがすべての規制要件を満たしていることを、第三者による監査を必要とせずに自己確認するプロセス。

継続的学習

AIシステムは、新しいデータ入力から人間の介入なしに継続的に学習し、適応し、時間とともに改善する能力を持っています。

制御性

人間がAIシステムの決定や行動を指示、影響を与える、または無効化することができる程度。

COREPER の権限

EU加盟国の大使(常駐代表委員会)が、EU法案に関する三者協議の交渉に向けて、輪番制の理事会議長国に付与する交渉権限。

交差検証

統計解析の結果が独立したデータセットにどのように一般化されるかを評価するためのモデル検証手法。

暗号学的エージェントの識別情報

AIエージェントとその権限レベルを一意に識別する、検証可能なデジタル資格情報(多くの場合、分散型識別子、DID)。

サイバーセキュリティ

システム、ネットワーク、およびプログラムをデジタル攻撃から守る実践は、脅威に対してAIシステムを保護する上で重要です。

データ

データドリフト

時間の経過に伴うモデル入力データの変化は、監視・対応しなければ、モデルの性能低下を引き起こす可能性があります。

データ倫理

個人を特定可能な情報を収集、保護、使用する際の倫理的義務に関して、データの取り扱いを評価する倫理学の一分野です。

データガバナンス

企業におけるデータの可用性、使用性、整合性、およびセキュリティの全体的な管理は、データのライフサイクル全体を通して適切に取り扱われることを保証します。

データ取り込みリスク

ユーザーとのやり取りの中で、機密情報または専有情報が AI モデルの学習データセットに永続的に取り込まれてしまう危険性。

データライフサイクル管理

データフローのライフサイクル全体にわたるポリシーに基づく管理: 作成および初期保存から、陳腐化し削除されるまでの一連の流れを包括的に管理します。

データ最小化

特定の目的に必要なデータのみを収集するという原則は、誤用や漏洩のリスクを軽減します。

データプライバシー

情報技術の側面で、どのデータが共有され、誰と共有されるかを制御する能力を扱い、個人データが適切に取り扱われることを保証します。

データ保護

重要な情報を保護し、破損、漏洩、損失を防止するとともに、データ保護法規制への準拠を確実にするプロセスです。

データの来歴

AIモデルの学習またはファインチューニングに使用されるデータセットの出自、所有権、およびライフサイクルに関する文書化された記録。

データ品質

AIモデルの効果的なパフォーマンスに不可欠であるデータの状態は、正確性、完全性、信頼性、関連性といった要因に基づいています。

データレジデンシー

組織のデータの物理的または地理的な場所は、データ保護法の遵守に影響を及ぼす可能性があります。

データ主権

データは、それが収集、保存、または処理される国家の法律およびガバナンス構造に従うという概念です。

データ主体

個人データが収集、保持、または処理される個人は、特にGDPRのようなデータ保護法の文脈で重要です。

識別情報の削除

データセットから個人識別子を削除または隠蔽し、個人の特定を困難にするプロセスであり、プライバシー保護に利用されます。

ディープラーニング

複数層のニューラルネットワークを伴う機械学習の一部であり、データの複雑なパターンをモデル化することを可能にします。

ディープフェイク

既存の画像やビデオ内の人物が、ディープラーニング技術を使用して作成された他の人物の肖像に置き換えられる合成メディア。

差分プライバシー

データセット内のグループのパターンを記述しつつ、個人に関する情報を秘匿したまま、データセットについての情報を公に共有するシステムです。

AIに関するEUデジタル・オムニバス

EU AI法および関連するデジタル安全関連法全体にわたり、技術標準、適合性評価、ならびに執行スケジュールを簡素化し、整合性を持たせることを目的とした、2025/2026年の法制パッケージ。

差別

AIにおいて、データやアルゴリズムの偏見に基づく個人またはグループに対する不公平な扱いを指し、それが不平等な結果を招くことを意味します。

分散型学習

トレーニングデータが複数のデバイスまたは場所に分散され、生のデータを共有することなく、協力してモデルをトレーニングする機械学習アプローチです。

ドメイン適応

機械学習の技術の一つであり、ある領域で訓練されたモデルが異なるが関連する領域で機能するように適応されることを指します。

デュアルユース基盤モデル

膨大なデータで学習され、高い性能を備えており、民生用途だけでなく、有害な用途や軍事目的にも利用され得るAIモデル。

動的リスク評価

AIシステムにおける新たな脅威に対して、タイムリーな対応を可能にする、リスクの継続的なリアルタイムでの識別および評価のプロセス。

E

エッジAI

データ生成の源であるエッジデバイスにAIアルゴリズムを展開し、データ処理と意思決定を可能にします。

エッジアナリティクス

データ生成のソースに近いネットワークのエッジでのデータ分析により、待ち時間と帯域幅の使用を削減します。

組み込みAI

サードパーティのソフトウェア・アズ・ア・サービス(SaaS)プラットフォームやエンタープライズ向けツールに直接統合されたAI機能、またはその機能です。

アンサンブル学習

複数のモデルを訓練して組み合わせることで同じ問題を解決し、全体的なパフォーマンスを向上させる機械学習のパラダイム。

エンティティ解決

異なるデータセット間で同じ実世界のエンティティを参照するレコードを識別し、リンクするプロセスです。

Enzai

企業向けAIガバナンスプラットフォームは、組織がAIシステムをインベントリし、評価し、管理することを可能にし、AIの採用を最大化しながらAIリスクを最小限に抑えることを保証します。

エスカレーションロジック

AIエージェントが自律動作を停止し、制御を人間のオペレーターに引き渡すよう強制する、事前定義されたルールとトリガーのセット。

ESMAのAI/MLガバナンスに関する期待事項

欧州証券市場監督局による、金融市場におけるAIおよび機械学習の利用に関する規制ガイドライン。

倫理的なAI

倫理原則と価値観に沿って設計、開発、展開されるAIシステムの慣行は、公平性、説明責任、透明性を確保します。

倫理的AI監査

AIシステムが倫理基準を順守し、害を及ぼさないことを保証するために、体系的に評価するプロセス。

倫理的AI認定

AIシステムが確立された倫理基準とガイドラインに従っていることを正式に認定すること。

倫理的なAIガバナンス

AIシステムが適切かつ倫理的に開発・使用されることを保証するためのポリシー、手順、実践のフレームワーク。

倫理的枠組み

AI システムの倫理的な開発と展開を導くために設計された原則とガイドラインの体系的なセット。

倫理的ハッキング

AIシステムの堅牢性を確保するために、意図的にシステムの脆弱性を探し出し、セキュリティ問題を特定して修正する取り組みです。

倫理的影響評価

AIシステムの導入前に、その倫理的影響および潜在的な社会的影響を特定し、対処するための体系的な評価プロセス。

倫理的リスク

AIシステムが偏見、差別、プライバシー侵害などの非倫理的な行動により、害を及ぼす可能性があるというリスク。

信頼できるAIのための倫理ガイドライン

欧州委員会のAIハイレベル専門家グループによって開発された一連の指針であり、人間の主体性、技術的堅牢性、プライバシー、透明性、多様性、社会的幸福、説明責任に重点を置き、信頼できるAIを促進することを目的としています。

EU AI 法

欧州連合内で導入または使用されるシステムに対し、リスクベースの分類体系を確立する、世界初の包括的な横断的AI法的枠組みです。

EU AI法における高リスクカテゴリー

EU AI法における高リスクAIシステムは、主に2つに分類されます。1つ目は、付属書IIIに列挙された単体システムで、生体認証、重要インフラ、雇用、教育、法執行など、その他の指定用途を対象とします。2つ目は、付属書Iに列挙された規制対象製品に組み込まれたAIで、医療機器、車両、機械、その他の規制対象製品区分を対象とします。

EU AI法におけるリスク分類

EU AI Actに基づき、AIシステムに対して4つのリスクレベル(許容不可、高、限定的、最小)のいずれかを割り当てる義務付けられたプロセスです。

EU AIオフィス

EU AI法の実施および執行を監督するために欧州委員会に設置された機関。特に、システミックリスクを伴う汎用AIモデルに対する監督を担います。

EUデジタル・オムニバス

欧州連合による2025~2026年の包括的な法規制簡素化パッケージであり、AI法、GDPRの規定、サイバーレジリエンス法、データ法の改正など、複数のデジタル規制に対応するものです。

過剰な自律性

AIシステムに、その本来の機能に対して過度な自律性、過剰なツール、または過剰な権限付きアクセスが付与されることによって生じる脆弱性。

大統領令14110号

2023年10月に署名され、2025年1月に撤回された、AIの安全性、セキュリティ、プライバシーに関する米国の国家標準を策定し、NISTに米国AI安全性研究所(U.S. AI Safety Institute)を設置した、バイデン政権の指令。

説明可能性技術

AIモデルによって行われた意思決定を解釈し理解するための手法には、LIMEやSHAP、サリエンシーマップなどがあります。

説明可能性と解釈可能性

両者ともAIの意思決定を理解しやすくすることを目指していますが、説明可能性は意思決定の理由に焦点を当てており、解釈可能性はモデルの内部メカニズムの透明性に関わっています。

説明可能なAI(XAI)

AIシステムは、その決定と行動について人間が理解できる説明を提供するように設計されており、透明性と信頼性を高めます。

説明可能な機械学習

予測や意思決定に対して明確で理解しやすい説明を提供するように設計された機械学習モデル。

エフ

公平性

AIシステムがさまざまな個人やグループに対して偏りのない公平な結果を生成し、差別的な影響を軽減することを保証します。

公平性指標

AIモデルの予測がグループ間でどれほど公正であるかを評価するために使用される定量的指標(例:人口統計の平等性、平等化されたオッズ)。

偽陰性

AIモデルが実際には正であるインスタンスに対して誤って負のクラスを予測する場合(タイプIIエラー)。

誤検出

AIモデルが実際にはネガティブなインスタンスに対して誤ってポジティブクラスを予測する場合(第一種過誤)。

フォルトトレランス

AIシステムがいくつかのコンポーネントで故障やエラーが発生した場合でも、正しく動作し続ける能力。

特徴工学

機械学習モデルの性能を向上させる特徴量として、生のデータセット属性を作成、選択、または変換すること。

機能抽出

生データ(例: テキストや画像)を、機械学習アルゴリズムへの入力に適した数値表現(特徴量)にマッピングするプロセス。

機能選択

モデルトレーニングのために最も関連性の高い特徴を特定して選択し、複雑さを軽減し精度を向上させます。

連携型AIガバナンス

中央の方針と監督を基盤としつつ、事業部門や地域拠点に意思決定を分散させ、一貫性と運用上の柔軟性を両立するガバナンスモデル。

フェデレーテッドラーニング

モデルが生データを中央で共有することなく、複数のデバイスやサーバーにあるローカルデータでトレーニングされる分散型機械学習アプローチ。

フィードバックループ

AIの出力を再び入力として取り込むことで、モデルの挙動が増幅されるプロセスです。これは、良い方向では(強化学習)、悪い方向では(バイアスの強化)として作用する可能性があります。

微調整

あらかじめ学習済みのAIモデルを特定のタスクやデータセットに適応させ、新しいデータを用いて学習を続けることで、しばしばタスク特有のパフォーマンスを向上させます。

形式的検証

AIアルゴリズムが指定された正確性の特性を遵守していることを数学的に証明することは、安全性が非常に重要なシステムでよく使用されます。

フレームワーク

AIシステムのガバナンス、開発、展開、監視を導くためのポリシー、プロセス、ツールの構造化セットです。

不正検出

AI技術(例:異常検知、パターン認識)を利用して、金融や保険などでの不正行為を特定し防止することができます。

FS AI RMF(金融サービス向けAIリスク管理フレームワーク)

2026年2月に公表された、金融サービス企業向けの米国財務省による専門的なAIリスク管理フレームワークであり、NIST AI RMFを業界固有の義務に合わせて適用したものです。

機能安全

AIシステムがあらゆる状況下で安全に運用されることを保証することは、特に自動車産業や医療分野においては、冗長性やチェックを通じて重要です。

基本的権利への影響評価(FRIA)

EU AI法に基づき、特定の導入者に対して義務付けられる評価であり、高リスクAIシステムの利用が市民の自由および人権にどのような影響を及ぼし得るかを判断するものです。

ファジー論理

二値の真偽(真/偽)ではなく、近似的な値に基づく推論を扱う論理システムであり、制御システムや不確実性への対応に有用です。

ジー

ギャップ分析

現在のAIガバナンスの実践を望ましい基準や規制と比較して、改善が必要な領域を特定するプロセスです。

一般データ保護規則 (GDPR)

EUの一般データ保護規則は、個人データの収集、処理、個人の権利に関する厳格な要件を確立しています。

一般化

AIモデルがトレーニング例を記憶するのではなく、基盤となるパターンを捉えることによって、新しい未見のデータで高い性能を発揮できる能力。

生成的AI

新しいコンテンツ(テキスト、画像、その他のメディア)を生成するAI技術(例:GAN、トランスフォーマー)であり、しばしば新たなガバナンスおよび知的財産(IP)に関する懸念を引き起こします。

グローバルモデル

複数の情報源から収集されたデータで訓練された統合AIモデルは、ローカライズされたモデルやパーソナライズされたモデルとは異なります。

目標のずれ

AIエージェントの内部サブゴールや推論プロセスが、当初人間から与えられた目的から徐々に逸脱していく現象。

ガバナンス

AIシステムの倫理的、合法的、かつ効果的な開発および展開を導く一連の方針、手続き、役割、責任。

ガバナンス機関

組織内でAIガバナンス方針とその実行を監督することを任務とする法務、倫理、技術などのクロス機能グループ。

ガバナンスフレームワーク

AIガバナンスの構成要素(リスク管理、アカウンタビリティ、監督)がどのように組み合わされて、コンプライアンスと倫理的な利用を確保するかを説明するための構造化されたモデルです。

ガバナンス成熟度モデル

組織のAIガバナンス実践の進化度を評価するための段階的枠組みであり、臨時的なものから最適化されたものまでを対象としています。

ガバナンスポリシー

企業内のAI開発および監督に関する規則、役割、手続きを成文化した正式な文書です。

ガバナンススコアカード

AIガバナンスの有効性を時間の経過とともに測定するために、重要な指標(例:偏りのある事件やコンプライアンス監査)を追跡するダッシュボードまたは報告書。

GPAI 行動規範

EU AI Actに基づき、汎用AI(GPAI)モデルの提供者に求められる、透明性、安全性試験、およびリスク軽減に関する具体的な義務を明確に定めた詳細な規制文書。

GPAIモデル

さまざまなアプリケーションに統合でき、幅広い個別タスクを実行可能な汎用人工知能モデル。

GPU(グラフィックスプロセッサ)

大規模なAIモデルを効率的にトレーニングおよび実行するために広く使用されている、並列計算専用のハードウェアアクセラレータです。

勾配降下法

損失関数を最小限に減少させる方向にモデルパラメータを反復的に調整する最適化アルゴリズム。

詳細な同意

データの使用ごとに個別に許可を与えたり拒否したりできるデータプライバシーアプローチであり、透明性とコントロールを強化します。

グリーンAI

エネルギー効率の高いアルゴリズムや持続可能なコンピューティングの実践を通じて、AIの環境への影響を削減する取り組み。

グレイボックスモデル

内部ロジックが部分的に透明であるモデル(いくつかのコンポーネントは解釈可能であり、他は不透明である)は、性能と説明可能性のバランスを取ります。

グラウンドトゥルース

AIモデルのパフォーマンスを訓練および評価するための基準として使用される、正確な現実世界のデータまたはラベルです。

ガードレール

AIシステムに組み込まれた定義済みの制約やチェック(技術的およびポリシー)は、実行時における安全でないまたはコンプライアンスに違反する行動を防ぐためのものです。

ガイドライン(倫理的AI)

責任あるAI開発と展開を形成するために発行される、IEEEやEUなどの組織による、拘束力のない推奨またはベストプラクティスの文書です。

エイチ

幻覚

生成AIがトレーニングデータに基づかないにもかかわらず、もっともらしく見える誤った情報や捏造された情報を生成する場合。

欠損データの処理

データセットの欠損を解決し、モデルの整合性と公平性を維持するための手法(例:補完、削除、モデリング)。

ハードウェアアクセラレーター

AIの計算を高速化するために設計された専門チップ(例:GPU、TPU)は、エネルギー使用とサプライチェーンに関するリスクに影響を与えます。

リスク評価

AIシステムがもたらす可能性のある負の影響(物理的、心理的、社会的)を評価し、緩和策を策定します。

調和化

AIのポリシー、標準、および規制を各管轄区で整合させ、競合を減らし、相互運用性を実現します。

統一された構造

ISOマネジメントシステム規格全体に適用される標準化されたテンプレートで、旧称は Annex SL です。用語および条項番号の一貫性を確保します。

ハッシュ化

データを固定サイズの文字列に変換するプロセスで、データの整合性チェックやプライバシーを保護しながらの記録のリンクに使用されます。

異種データ

異なる種類のデータ(テキスト、画像、センサー)や複数のドメインからのデータを組み合わせることは、統合およびガバナンスの課題を引き起こします。

ヒューリスティック

AIプロセスを迅速化するために使用される経験則または簡略化された意思決定戦略であり、しばしば最適性を効率性に交換します。

ヒューリスティック評価

AIシステムを既存のユーザビリティ原則に基づいて専門家が評価し、潜在的な問題を特定するためのユーザビリティ評価手法です。

高リスクのAIシステム

個人の健康、安全、または基本的人権を損なう重大な可能性を有し、EU AI法に基づく最も厳格なコンプライアンス要件が適用されるAIアプリケーション。

ハイステークスAI

重大な被害を引き起こす可能性があるAIアプリケーション(例えば、医療診断や自律走行車)には、厳格なガバナンスと監視が必要です。

人間を介したプロセス

AIプロセス(トレーニング、検証、意思決定のレビュー)に人間の判断を組み込むことで、正確性と説明責任を向上させます。

人間による監督

指定された個人がAIシステムの意思決定を監視し、介入し、または上書きして倫理的および法的な遵守を保証するためのメカニズム。

人権影響評価

AIシステムが基本的人権(プライバシー、表現の自由、差別の禁止)にどのように影響するかを評価し、緩和策を特定するためのプロセスです。

ハイブリッドモデル

複数の学習パラダイム(例: シンボリックとニューラル)を組み合わせて、説明性とパフォーマンスのバランスを取るAIシステム。

ハイパーパラメーター

モデルの学習前に設定され、学習の挙動や性能に影響を与える設定変数(例: 学習率、木の深さ)。

ハイパーパラメータチューニング

モデルのパフォーマンスを最大化するために、グリッド検索やベイズ最適化などを通じて最適なハイパーパラメータ値を検索するプロセス。

不均衡データ

あるクラスまたはカテゴリが他のクラスやカテゴリに比べて著しく数が多いデータセットは、適切な対策を講じない限り、AIモデルが多数派のクラスに偏る原因となる可能性があります。

不変の台帳

改ざんが検知可能な記録保持メカニズム(例:ブロックチェーン)により、データは一度書き込まれると、検知されることなく変更することはできません。これは、AIの監査証跡に有用です。

影響評価

AIシステムの導入前に、潜在的な倫理的、法的、社会的影響を特定、分析、および緩和するための体系的な評価。

実施法

欧州委員会が採択する二次法であり、一次法を実施するための統一的な条件を定め、すべての加盟国に対して法的拘束力を有します。

潜在的なバイアス

トレーニングデータやモデル設計に組み込まれた無意識または意図しないバイアスが、差別的な結果を招く可能性があります。

インセンティブの整合

AIシステムの目標が人間の価値観と組織の優先事項に一致し続けるように、報酬構造と目的を設計すること。

帰納バイアス

学習アルゴリズムが観察されたデータから未知のインスタンスへ一般化する際に使用する仮定のセット。

推論

訓練されたAIモデルが新しいデータ入力を処理し、予測や決定を下すプロセスです。

推論エンジン

AIシステムのコンポーネント(特にルールベースまたはエキスパートシステムにおいて)は、知識ベースを入力データに適用して結論を導き出す機能を持っています。

情報ガバナンス

組織のデータ資産全体にわたり、データの品質、プライバシー、利用可能性を確保するための方針、手順、および管理、これにはAIのトレーニングデータセットも含まれます。

情報プライバシー

個人がAIシステムによって収集、使用、保存、共有される個人データを管理する権利。

コードとしてのインフラストラクチャ (Infrastructure as Code, IaC)

機械可読の構成ファイルを通じてAIインフラストラクチャ(計算、ストレージ、ネットワーキング)を管理およびプロビジョニングすることで、再現性と監査性を向上させます。

継承されたデータリスク

組織が、自ら収集または精査していないデータで学習されたAIシステムを使用する際に負う、規制上および倫理上の責任。

受付ワークフロー

新しいAIシステムが、構築または調達される前に通過しなければならない、標準化されたプロセスと一連のチェックです。

インテントの検証

AIエージェントが計画した各サブアクションが、元の人間が提示した目的と一貫していることを検証するプロセス。

相互運用性

多様なAIシステムやコンポーネントが、オープンスタンダードやAPIを通じて、情報を円滑に交換し、理解し、利用する能力。

解釈可能性

AIモデルの内部メカニズムまたは意思決定の合理性を人間が理解できる程度。

侵入検知

AIインフラとアプリケーションの悪意ある活動やポリシー違反を監視し、アラートや自動応答をトリガーします。

ISO/IEC 42001

人工知能管理システム(AIMS)を構築、導入、維持し、継続的に改善するための要件を規定した国際規格。

ISO/IEC 42005

AIシステムの影響評価の実施に関するガイダンスを提供する国際規格。

ISO/IEC JTC 1/SC 42

人工知能標準化に関する国際標準化機構 (ISO) と国際電気標準会議 (IEC) の合同委員会は、ガバナンス、リスク、および相互運用性のための国際的なAI標準を開発しています。

J

ヤコビアン行列

AIの説明可能性において、モデルの出力に対する入力の全一次偏導関数の行列は、感度と特徴の重要性を評価するために使用されます。

脱獄攻撃

ユーザーが脆弱性を利用して生成AIモデルの保護手段を回避し、不安全または不正な出力を引き起こす可能性があるプロンプトインジェクションの一形態です。

日本のAI推進法

AIの推進とリスク軽減に関する基本原則を定める、2025年に制定された日本の法律。

連帯責任

複数の関係者(例えば、開発者やデプロイ者)がAI関連の損害に対して責任を共有する法的原則であり、契約およびガバナンス構造に影響を与えます。

共同モデリング

複数のタスク(例えば、音声認識と翻訳)を共同で学習するAIシステムを構築し、その複雑さと監査可能性についてのガバナンスが必要です。

判断バイアス

認知バイアスや不完全なデータによって引き起こされる人間またはAIの意思決定プロセスにおける体系的なエラーには、偏見監査と緩和が必要です。

司法審査

AIによって行われたり補助されたりする決定の合法性を評価する法的プロセスであり、アカウンタビリティと適正手続きの確保を目的としています。

管轄区域

地理によって異なるデータ、AI操作、および責任に関する法的権限は、地域規制(例:GDPR、CCPA)へのコンプライアンスに影響を与えます。

陪審オートメーション

AIを使用して陪審員の選定やケース分析を支援することは、公平性、透明性、法的監視に関する倫理的懸念を引き起こしています。

ジャスティス・メトリクス

AI意思決定における公正性と差別禁止を評価するために使用される定量的な指標(例:異なる影響、機会の均等など)。

K

重要業績評価指標

AI ガバナンスとコンプライアンスの目標を監視し報告するために使用される定量的な指標(例えば、モデルの精度の変化、バイアスの修正時間)です。

主要リスク指標

AIのリスクが顕在化する前に、それらの発生を示す先行指標(例:スコープ外予測の頻度、説明不能な意思決定の割合)。

顧客の身元確認 (KYC)

AIシステムと関わる個人または組織の身元、リスクプロファイル、および正当性を確認するためのコンプライアンスプロセス、特に規制された業界において重要です。

知識蒸留

より大きな“教師”モデルからより小さな“生徒”モデルに洞察を転送する方法であり、パフォーマンスをリソースやガバナンスの制約とバランスさせます。

ナレッジグラフ

エンティティとその関係の構造化された表現を使用して、AIの説明性、監査可能性、およびドメインオントロジーとの整合性を向上させます。

ナレッジ管理

組織の知識(例:モデル文書、監査ログ)を取得、整理、共有するための実践とツール。これにより、再現性と監督が確保されます。

L

ラベル漏れ

出力情報が訓練データラベルに不注意に含まれることで、パフォーマンス指標が水増しされ、モデルの真の一般化問題が隠されてしまうことがあります。

大規模言語モデル

膨大なテキストコーパスで訓練されたディープラーニングモデルは、テキスト生成、翻訳、要約などのタスクを実行できますが、バイアスや誤用に対するガバナンスが求められることがよくあります。

最小限の関与

AIエージェントには、特定のタスクを完了するために必要な、最小限の自律性およびツールアクセスのみを付与すべきであるとする、セキュリティとガバナンスの原則。

最小特権

AIコンポーネントとユーザーに必要最小限のアクセス権のみを付与することで、機能を果たすために必要なリスクを低減するセキュリティ原則です。

法令遵守

AIシステムがその全ライフサイクルにわたって適用される法律、規制、および業界標準に従っていることを確保する実践。

責任の枠組み

AIに関連する損害や失敗に対する責任を明確にするための体系的なアプローチであり、開発者、導入者、およびオペレーターが含まれます。

ライフサイクル管理

AIシステムの開発、展開、監視、保守、および廃止のための統合されたプロセスは、継続的なコンプライアンスとリスク管理を確保するために設計されています。

ライブネス検知

入力(バイオメトリクスなど)が偽造やリプレイではなく、生きた主体から来ていることを確認するために使用される技術であり、それによりシステムのセキュリティと整合性を向上させます。

ローカライゼーション

AIシステムを各地域の言語、規制、文化的規範、データの居住要件に適合させること。

ログ管理

AIワークフローからのシステムおよびアプリケーションログの収集、保存、分析により、監査、インシデント対応、モデルパフォーマンスの追跡を支援します。

損失関数

予測された出力と真の値との違いを定量化し、モデルのトレーニングと最適化を導く数学的関数です。

M

市場監視当局

EU加盟各国において、AIシステムがEU AI法に準拠していることを監視する責任を担う国家規制当局。

MAS FEATの原則

シンガポール金融管理局による、金融分野におけるAI活用に関する公正性・倫理・説明責任・透明性(FEAT)の原則。

意義のある人間の制御

人間がAIの意思決定プロセスを監督し、介入し、上書きする能力を保持することを保証する規制および運用の基準です。

メタデータ管理

トレーサビリティと監査をサポートするために、記述データ(例: データの起源、機能の定義、モデルのパラメータ)を記録し維持する実践。

指標とKPI

AIシステムの健全性、リスク、コンプライアンスの目標を監視するために使用される定量的指標(例:精度の変動、公平性スコア、インシデント対応時間)。

メキシコ連邦人工知能およびアルゴリズム法

AIおよびアルゴリズムに関するメキシコ連邦法案であり、リスクベースの分類制度、国家AI委員会(CONAIA)、ならびにAI生成コンテンツに対するウォーターマーキング要件を提案しています。

緩和策

特定されたAIリスクとコンプライアンスのギャップに対応するための計画的な行動(例:バイアス是正、再訓練、機能再工学)。

ミネソタ州CDPA(AIに関する規定)

ミネソタ州消費者データプライバシー法におけるAI固有の構成要素。

モデルカード

機械学習モデルの性能、制約、および想定される用途に関する重要な情報を提供する、簡潔で標準化された文書です。

モデルの抹消

不適切または違法に取得されたデータを用いて開発されたAIモデルやアルゴリズムの削除を企業に求める、規制上の是正措置。

モデルドリフト

実世界のデータや環境の変化により、AIモデルの予測性能が時間の経過とともに低下すること。

モデルの説明可能性

AIモデルの意思決定ロジックをステークホルダーや監査人に理解可能にする技術とドキュメント。

モデルガバナンス

AIモデルが組織の基準および規制要件に準拠して開発、承認、および使用されることを保証するためのポリシー、役割、および制御。

モデル監視

AIモデルのパフォーマンス、データのドリフト、運用指標を継続的に監視し、劣化や新たなリスクを検出します。

モデル再訓練

データ分布の進化に伴い、性能とコンプライアンスを維持するために、新しいデータや更新されたデータでAIモデルを更新するプロセス。

モデルリスク管理

AI/MLモデルのライフサイクル全体を通じて発生するリスクを特定し、評価し、軽減するための構造化されたプロセス。

モデル検証

AIモデルが本来の目的と性能基準を満たしていることを確認する評価活動(例:保持データに対するテストやストレスシナリオ)。

マルチステークホルダーエンゲージメント

AIガバナンスプロセスにおいて多様なグループ(法務、倫理、運用、エンドユーザーなど)を関与させ、リスクのバランスを取った監視を行い、ビジネス目標と一致させるための体制を整えます。

いいえ

自然言語処理(NLP)

機械がテキストや音声形式で人間の言語を解釈、生成、分析することを可能にする技術とツール。

ネットワークセキュリティ

AIインフラストラクチャとデータパイプラインを不正アクセスや改ざんから保護するための措置と管理(例:セグメンテーション、ファイアウォール、侵入検知)。

ニューラルアーキテクチャ検索

ニューラルネットワーク構造を設計および最適化するための自動化手法は、複雑性とリソース制約とのバランスを取りながら、モデルのパフォーマンスを向上させます。

NIST AIリスク管理フレームワーク

米国国立標準技術研究所による自発的なガイダンスであり、AIシステムのライフサイクルにおけるリスクを軽減するためのベストプラクティス概要です。

NIST AI RMF プロファイル

特定の業界、技術、またはリスク種別に合わせて最適化された、NIST AIリスクマネジメントフレームワークの文脈に応じた実装。

ノイズインジェクション

意図的にランダムな摂動をトレーニングデータやモデルパラメータに導入し、頑健性を向上させ、敵対的な操作に対して保護します。

非人間アイデンティティ(NHI)

AIエージェント、ボット、またはサービスがエンタープライズシステムに対して認証し、連携するために使用するデジタル認証情報。

認証機関

EU加盟国によって指定され、EU AI法に基づき特定の高リスクAIシステムの適合性を評価する、独立した第三者機関。

新規性検出

トレーニングデータと大きく異なる入力やシナリオを特定し、予期しない障害を防ぐためにレビューや安全モードの操作を開始するための技術。

ニューヨーク市ローカル法第144号

雇用上の意思決定に使用されるAIツールに対し、年次のバイアス監査を義務付けるニューヨーク市の法律。

Oを

可観測性

ログ、メトリクス、出力の収集と分析を通じて、AIシステムの内部状態と動作を推測し、効果的な監視とトラブルシューティングを可能にする機能。

OMB覚書 M-25-21

米国政府機関に対し、AIガバナンスおよびリスク管理要件を定める連邦指令。

継続的なモニタリング

AIシステムの性能、データドリフト、バイアス指標、セキュリティイベントを継続的に監視し、時間の経過とともに新たに発生するリスクを検出し対処します。

不透明度

AIモデルが意思決定や予測に至る過程の透明性の欠如は、信頼性と規制遵守において課題をもたらします。

運用の自律性

AIシステムが、各段階で人の介入を必要とせずに、複数ステップのタスクを遂行し、意思決定を行う能力。

業務レジリエンス

AIシステムおよびそれを支えるインフラストラクチャが予測し、耐え、回復し、そして混乱や不利な事象に適応する能力。

オーケストレーション

AIワークフローとサービス(データ取り込み、モデル学習、デプロイメント)を自動的に統合・調整し、ポリシー遵守とリソースガバナンスを確実に実現します。

異常検知

期待されるパターンから著しく逸脱するデータポイントやモデル予測を特定し、レビューまたは緩和措置を促す技術。

出力リスク

AIシステムが生成した不正確、偏った、または有害なコンテンツを使用することにより生じる、業務上、法的、ならびに評判上のリスク。

過学習

AIシステムがトレーニングデータ内のノイズや特殊性を学習してしまい、新たな未確認データに対する一般化能力が低下するモデリングの問題です。

監督

AIの開発と導入に関するレビュー、承認、そして責任の構造化されたプロセスは、通常、様々な機能を持つ統治機関を含む形で行われます。

OWASP エージェンティック Top 10

自律型AIエージェントおよびそのアプリケーション環境に特有の、最も重要な10のセキュリティリスクを体系的に分類したものです。

所有権

AI資産(データ、モデル、プロセス)に関する責任と権限を明確に割り当て、システムライフサイクル全体を通じた説明責任を確保します。

P

パラメトリック知識

AIモデルが学習プロセス中に習得し、その重みとパラメーターに保存される情報。

整備された道筋のガバナンス

承認済みの安全なワークフローを、非承認の代替手段よりも簡単に実行できるようにすることで、コンプライアンスを促進する戦略。

権限管理

AIデータと機能へのユーザーおよびシステムのアクセス権限を、最小特権の確保と不正使用の防止を実現する形で管理します。

パイロットテスト

AIシステムの本格展開に先立ち、その性能、リスク、ガバナンス制御を評価するために、限定的な範囲の試験を管理された環境で実施します。

ポリシー施行

AIの運用が組織のポリシー、規制のルール、および倫理的ガイドラインに準拠することを保証する自動または手動のメカニズム。

展開後のモニタリング

リリース後のAIシステムの動作および環境を継続的に観察し、劣化、ドリフト、またはコンプライアンス違反を検出します。

PRA SS1/23(モデル・リスク管理)

英国健全性規制機構による、銀行および保険会社向けのモデルリスク管理に関する声明。

予測保守

AIを活用した監視と分析により、コンポーネントやシステムの故障を予測し、重要な環境における運用の回復力とリスク軽減を確保します。

適合性の推定

EU AI Actおよびその他の制度における法的な仕組みであり、整合規格(例:公表されたEN規格)に適合することで、基礎となる規制要件が満たされていると反証可能な推定が成立するものです。

プライバシー・バイ・デザイン

AIシステムのアーキテクチャとプロセスにおいて、データ保護とユーザーのプライバシーに関する考慮事項を最初から組み込むアプローチです。

プライバシー影響評価

AIシステムに関連するプライバシーリスクを特定し緩和するための構造的な分析には、データの収集、使用、共有、および保持を網羅しています。

確率論的システム

出力が、決定論的で固定的なロジックではなく、統計的な確率に基づいて決定されるシステム。

プロセスオートメーション

AIおよびワークフローツールを活用して、ガバナンス、コンプライアンスチェック、リスク軽減活動を効率化し、手動の作業やエラーを削減します。

定性的評価

AIシステムの行動、意思決定、および文書について、専門家が主観的に評価することで、定量的に捉えきれない倫理的、法的、または評判に関する懸念を特定します。

品質保証

AIモデルとデータパイプラインが正確性、信頼性、倫理的遵守の定められた基準を満たすことを保証するための体系的なプロセスとチェック。

品質管理

AIの出力およびプロセスをベンチマークやテストケースに照らして継続的に検証し、欠陥、バイアス事象、またはポリシー違反を検出します。

定量的リスク評価

AI の潜在的脅威のデータ駆動型評価では、軽減策の優先順位を決定するために、可能性と影響を数値で推定します。

量子コンピューティング

量子力学を活用する新たな計算パラダイムは、セキュリティ、標準化、リスクに関するガバナンスの新しい課題を提起しています。

クエリログの記録

AIシステムの入力とユーザーの問い合わせを記録することで、監査トレイルを可能にし、誤用を検出し、アカウンタビリティをサポートします。

プライバシーに関するお問い合わせ

ユーザーのクエリ内の機密情報を保護するための技術とポリシーを策定し、記録された入力が個人情報や専有データを損なわないようにすることを保証します。

アンケートフレームワーク

設計、調達、または展開時に使用されるガバナンスに焦点を当てた質問の体系的なセットで、AIシステムがポリシー要件に適合していることを保証します。

ガバナンスボードの定足数

AIのリスク、方針承認、または監査結果に関する正式な決定を行うために必要なガバナンス委員会メンバーの最小人数。

割り当て管理

AIリソースの使用(例:API呼び出し、計算時間)に対する制御と制限は、ガバナンスポリシーを遵守し、費用の高騰や乱用を防ぐために設定されています。

R言語

推論チェーン

AIエージェントが、初期の目的から最終的なアクションまたは出力に至るまでに従う、複数ステップの論理的プロセス。

リコース

AIによって権利や利益に影響を与える決定に対して、影響を受けた個人が異議を申し立てたり救済を求めたりすることができるメカニズム。

レッドチーミング

AIシステムの脆弱性を発見するために、内部または外部の専門家が攻撃や悪用シナリオを模擬するプロアクティブなテストアプローチ。

法令遵守

AIシステムが運用中、適用される法律、規制、業界標準(例:GDPR、FDA、金融監査)を遵守することを保証します。

再現性

同じデータ、コード、および設定を使用してAIモデルの結果を一貫して再生成する能力は、透明性と監査可能性を確保します。

責任割り当てマトリックス

各ガバナンス活動における役割と責任を明確化するためのツール(例:RACI)。誰が実行責任者(Responsible)、最終責任者(Accountable)、相談先(Consulted)、および報告先(Informed)であるかを明示します。

責任あるAI

ステークホルダーと社会に対して倫理的で透明性があり、責任を持った方法でAIシステムを設計、開発、展開する実践。

リスク評価

AIシステムにおける潜在的なリスクや故障を特定し、分析し、優先順位を付けて、適切な対策を策定するプロセス。

リスク管理フレームワーク

設計から廃止まで、システムライフサイクル全体でAIリスクに体系的に対処するためのガイドラインとプロセスの構造化されたセットです。

堅牢性

AIシステムがさまざまな困難または敵対的な条件下でも信頼できるパフォーマンスを維持する能力。

根本原因分析

AIシステムの失敗または予期しない動作の根本的な原因を特定し、是正措置を導くための体系的な調査。

エス

制限付き利用規約

AIシステムの誤用を防ぐため、許可されたコンテキスト、ユーザー、目的を指定する定義されたルールと管理を実施します。

セキュリティバイデザイン

AIシステムにおけるセキュリティコントロールとベストプラクティスを、設計初期段階から統合することで、脆弱性やデータ漏洩を防止します。

シャドーエージェント

ガバナンスチームの認識や承認を得ることなく組織内に導入され、業務システムや外部の関係者に影響を及ぼす行動を実行できる、未承認の自律型AIエージェント。

シャドウAI

ITの承認を得ずに従業員がAIモデル、エージェント、またはツールを無断で使用することは、データ漏洩や不正な自律的行動を通じて隠れたセキュリティ上の脆弱性を生み出します。

シンガポールのモデルAIガバナンス・フレームワーク

シンガポールのIMDAおよびPDPCによる、責任あるAI導入のための自主的なガイダンス・フレームワークです。

韓国AI基本法

韓国におけるAI開発と信頼のための包括的な法的枠組み。

社会的影響評価

AIシステムが社会的、経済的、文化的側面に与える影響を体系的に評価し、潜在的な損害と利益を特定します。

ソフトウェア開発ライフサイクル

AIアプリケーションのエンドツーエンドプロセス(要件定義、設計、構築、テスト、デプロイ、監視)は、各段階でガバナンスとコンプライアンスのチェックを組み込んでいます。

SR 11-7(モデルリスク管理)

銀行業務におけるモデルの利用に伴うリスクを管理するための、米国連邦準備制度理事会による基礎的なガイダンス。

ステークホルダーエンゲージメント

AI 開発と監督において影響を受ける当事者(例:ユーザー、規制当局、影響を受けるコミュニティ)を関与させ、多様な視点と支持を確保するプロセス。

適用宣言書(SoA)

組織のAIマネジメントシステムに関連するISO 42001附属書Aの管理策を特定し、その他の管理策が除外された理由を説明する文書。

大幅な変更

EU AI法の下で、その適合性または意図された目的に影響を及ぼす、市場投入後のAIシステムへの変更。

監視リスク

AIシステムが個人やグループに対して侵入的な監視に利用され、プライバシーや市民の自由を侵害する可能性があります。

合成データ

実際のデータ分布を模倣する人工生成データセットは、プライバシーを保護しながらトレーニングセットを拡張するために使用されます。

公式記録システム

組織内の特定のデータ要素または情報に関する、信頼性の高い正確なデータソース。

システミックリスクの閾値

汎用AIモデルを社会に対して高いリスクをもたらすものとして分類する、技術的または能力ベースの閾値(例:10^25 FLOPs)。

T

テールリスク

AIの行動や意思決定において、通常の期待を超える稀で極端な結果が起こる可能性があり、特別な緩和計画が必要とされます。

テストと検証

AIモデルをベンチマーク、エッジケース、およびストレス条件に照らして評価し、それらが性能、安全性、コンプライアンス基準を満たすことを保証するための体系的なプロセス。

第三者リスク

外部データプロバイダー、モデルベンダー、またはサービスプラットフォームに依存することから生じるリスクは、コンプライアンスやセキュリティの脆弱性を引き起こす可能性があります。

閾値設定

AIの意思決定ルールにおいて、境界やカットオフ値(例:信頼度スコア)を設定し、偽陽性と偽陰性のようなリスクをバランスさせること。

トレーサビリティ

AIライフサイクルの各ステップ(データ収集からモデル開発、導入まで)を追跡し、文書化することで、監査およびフォレンジック対応を支援する能力。

トレーニングデータセット

AIモデルがそのタスクを実行するために学習すべき関係やパターンを教えるために使用される、ラベル付きまたはラベルなしのデータの精選されたコレクション。

転移学習

あるタスク用に開発されたモデルを関連するタスクに適用する手法であり、開発時間を短縮する一方で、継承されたバイアスの管理が求められる技法です。

透明性

AIシステムのプロセス、意思決定論理、およびデータの使用を、ステークホルダーに対して説明責任を果たすために明確で理解しやすいものにする実践。

トリローグ

欧州委員会、欧州連合理事会、欧州議会による非公式の三者協議は、EU法案について正式採択に先立って政治合意に達するために用いられていました。

信頼できるAI

倫理的で信頼性があり、安全であり、人間の価値観と社会規範に一致した方法で設計および運用されるAIシステム。

ユーザー

英国AI機会行動計画

AIのメリットを最大化しつつ、対象を絞った拘束力のある安全規則を策定するための、英国政府の戦略ロードマップ。

アンダーフィッティング

AIシステムが基礎的なデータパターンを捉えるにはあまりに単純であり、その結果、トレーニングデータおよび新しいデータの両方において性能が悪化するモデリングの問題です。

統一性

AIシステム全体にわたり、ポリシー、コントロール、基準の一貫した適用を保証し、ガバナンスの隙間や不均一なリスク管理を回避します。

教師なし学習

モデルが明示的な結果の指示なしに、ラベルのないデータ内のパターンやグループを識別する機械学習アプローチです。

稼働時間モニタリング

AIシステムの可用性とパフォーマンスを継続的に追跡し、重大な業務やコンプライアンス要件に影響を与える可能性のある障害や劣化を検出します。

ユースケースガバナンス

特定のAI使用事例の定義、承認、監視は、各事例が組織の方針、倫理基準、リスク許容度に整合することを保証するための実践です。

ユーザー同意

AIシステムで個人データを収集、処理、または使用する前に、個人から明示的な許可を取得し記録するプロセスです。

ユーティリティ

AIシステムがその目的を達成する上でどれほど価値があるか、または効果的であるかを判断する尺度であり、関連するリスクやリソースコストとバランスを取ります。

V

バリデーション

AIモデルが意図されたタスクで正確にかつ信頼性高く機能し、定義されたパフォーマンス基準を満たすことを確認するプロセスです。

ばらつき監視

AIモデルの出力やパフォーマンス指標の変動を時間経過とともに追跡し、ドリフトを検出して潜在的な劣化やリスクを推測します。

ベンダーリスク管理

AIコンポーネントやサービスのサードパーティ供給者を評価・監視し、潜在的なコンプライアンス、安全性、倫理的リスクを識別し、軽減することを目的としています。

バージョン管理

AIのコード、モデル、およびデータセットに対する変更を管理し、追跡する実践は、再現性と監査可能性を確保するためのものである。

バージョンの固定

サイレントアップデートによってシステムの動作が変化することを防ぐため、AIシステムを検証済みの特定バージョンの基盤モデルに固定する手法。

拒否権

ガバナンス機関または利害関係者が保持する正式な権利として、容認できないリスクをもたらすAIの導入を阻止または変更を要求する権限。

監視モニタリング

AIの挙動や外部信号(例:規制の更新)の継続的な監視を行い、新たに発生するリスクや非遵守事項を迅速に特定して対応します。

ビジョンAI管理

コンピュータビジョンシステムに特化したガバナンスプロセスでは、データ品質の確保、偏りのチェック、および画像/ビデオを基にした意思決定における透明性が重視されています。

脆弱性評価

AIインフラストラクチャおよびアプリケーションにおけるセキュリティの弱点を特定、分析、優先順位付けし、修正作業を導く。

ダブル

ウォッチドッグモニタリング

AIの意思決定を監視し、ポリシーや閾値が違反された際に警告や介入をトリガーする独立したランタイムチェックです。

ウォーターマーキング

画像、音声、動画、合成テキストなどの AI 生成出力に、検出可能で機械可読な由来情報マーカーを埋め込み、下流の利用者やプラットフォームがコンテンツを AI 生成であると識別できるようにする手法。

重み付け監査

モデルの重みと構造を精査し、改ざんや意図しない動作を示す可能性のある異常、バックドア、バイアスを確認します。

ホワイトボックステスト

AIシステムの内部構造(コード、パラメータ、アーキテクチャ)を完全に把握した上で、正確性、セキュリティ、コンプライアンスを検証すること。

ホワイトリスト/ブラックリストポリシー

コンプライアンスを強化し、不正使用を防止するために、許可された(ホワイトリスト)および禁止された(ブラックリスト)入力、機能、または操作を定義するガバナンスルール。

ホワイトリスト登録

未承認または悪意のある要素からのリスクを軽減するために、AIパイプラインにおいて事前承認されたデータソース、ライブラリ、またはモデルコンポーネントのみを許可します。

ワークフローオーケストレーション

AIライフサイクルのタスク(データの取り込み、トレーニング、検証、展開)を自動化およびシーケンス化して、ガバナンスポリシーを強化し、一貫性を確保します。

ワークロード分離

AIコンピュート環境(例えば、開発、テスト、本番)とデータドメインを分離し、障害やセキュリティ侵害の影響範囲を制限します。

最悪のケース分析

AIシステムの最も重大な潜在的な故障や悪用を評価し、堅牢なリスク緩和策と非常時対応計画に役立てる。

一度書き込み、多数回読み取り (WORM) ストレージ

不変ストレージにより、一度記録されたログ、監査証跡、モデルアーティファクトは改変されることがなく、否認防止および法医学的レビューをサポートします。

X

X-バリデーション

データを折りたたみに分割し、モデルの一般化を厳密に評価し、過学習を検出するためのモデル検証手法(しばしば“X-Val”と略されます)。

XAI監査

AIの説明可能性の出力が内部方針や規制要件を満たしているかどうかを評価するレビュープロセスであり、十分な透明性を確保します。

XAI(説明可能なAI)

AIモデルの意思決定プロセスを人間に対して透明で理解可能にする技術と方法であり、責任とコンプライアンスの支援を行います。

XAIフレームワーク

組織がAIシステム全体で説明可能性の実践を実装、測定、管理するために使用する、体系的なアプローチまたはガイドラインのセット。

XAI指標

AIの説明の品質と信頼性を評価するために使用される定量的または定性的な指標(例:特徴の重要度スコア、説明の忠実度)。

Y

YARAルール

既知の悪意のあるコードや改ざんを検出するために、AIパイプラインやアーティファクトをスキャンするためのシグネチャベースの検出パターンセットです。

年次コンプライアンスレビュー

AIガバナンスのプロセス、ポリシー、システムの年次評価を実施し、規制および内部基準と継続的に整合していることを確認します。

エンタープライズソフトウェア製品のマーケティングサイトに適した形式で翻訳されたコンテンツです。

ゼロデイ脆弱性

パッチや緩和策が利用可能になる前に悪用される可能性がある、AIソフトウェアまたはインフラストラクチャ内の未発見のセキュリティ欠陥。

ゼロ欠陥許容度

AI出力におけるエラーやポリシー違反を未然に防ぐことを目指したガバナンス原則であり、厳密なテスト、監視、継続的な改善サイクルによって支えられています。

ゼロショット学習

一般化された知識表現を活用することで、明示的にトレーニングされていないタスクやデータを正確に処理または分類するモデルの能力。

ゾーンベースのアクセス制御

ネットワークまたはデータガバナンスアプローチは、リソースを異なるポリシーを持つゾーンに分割し、データの機密性に応じてAIシステムのアクセスを制限します。

すべて

ホワイトペーパー

AI 規制

ポッドキャスト

製品の更新情報

報道

用語集

私たちのポッドキャストに参加するか、コンテンツの共同作成にご協力ください

お問い合わせいただければ、共に創り上げることができる製品をご提案いたします。

エー

利用規定(AUP)

組織が適用するルール一式であり、従業員が会社提供のAIツールとどのように利用・連携できるかについて、許可される方法および禁止される方法を定めたものです。

認定資格

特定の規格に対する監査を実施する能力があると、ANABやUKASなどの国家認定機関によって正式に認定された認証機関が発行する証明書です。

正確性

AIシステムの出力が実世界のデータや意図された結果を正確に反映する程度。

アクションのプレビュー

AIエージェントが、人間による最終承認の前に、取り消し不可能な操作によって何が実行されるのかを正確に表示しなければならないガバナンス要件です。

アクションホワイトリスト化

AIエージェントが実行を許可されるツール、API、およびアクションを厳格に定義する、セキュリティおよびガバナンスの制御です。

敵対的攻撃

不正な出力を引き起こすために、誤解を招く入力を導入してAIモデルを操作する技術です。

エージェント・ファブリック

複数のAIエージェントを、それらが依存するモデル、ツール、データとともにホストし、オーケストレーションし、ガバナンスする統合ランタイム基盤。

エージェント目標の乗っ取り (ASI01)

攻撃者がエージェントの目標や意思決定経路を操作し、その自律的な動作を意図しない結果へ誘導する脆弱性。

エージェント・メッシュ

共有インフラストラクチャ層を通じて、AIエージェントが互いを検出し、通信し、作業を委任し合うネットワーク型トポロジー。

エージェンティックAI

複雑な目標を自律的に追求し、ソフトウェアの展開や金融取引などの多段階のアクションを最小限の人間の介入で実行するように設計された人工知能システムのクラスです。

エージェンティックAIガバナンス

自律型AIシステムのガバナンスに関する説明です。これらのシステムは、予測AI(インサイトを提供するもの)や生成AI(コンテンツを作成するもの)とは異なり、独立した行動(例:取引、コードの展開)を実行する能力を有しています。

エージェント型ポリシーエンジン

エージェントのアクションを実行前に捕捉し、あらかじめ定義された決定論的なガバナンスルールに照らして評価する実行時ソフトウェアコンポーネント。

AIの責任

AIシステムの開発者および運用者は、そのシステムが責任を持って設計および使用され、倫理的基準と法的要件を遵守することを保証する義務があります。

AI整合

AIシステムの目的と行動を人間の価値観や意図に合わせるプロセス。

AIアシスタント

自然言語による対話を通じてユーザーのタスク完了を支援するよう設計された会話型AIシステムであり、通常は大規模言語モデルによって駆動されています。

AI監査

AIシステムの倫理基準、規制、および性能指標への適合性を評価するための体系的な評価。

AIバイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

AI部品表(AIBOM)

基盤モデル、学習データセット、ライブラリ、依存関係など、AIシステムを構成する要素を体系的に一覧化したインベントリです。ソフトウェア部品表(SBOM)に相当する、AI向けの部品表といえます。

AIコンプライアンス

AIシステムがそのライフサイクル全体を通じて適用される法律、規制、および倫理指針を遵守すること。

AI倫理

AI技術の開発と導入に関連する倫理的影響と責任に関する分野です。

AIの説明可能性

AIシステムの内部メカニズムが人間によってどの程度理解され解釈されるか。

AIフットプリント

組織全体で、ある時点に使用されているAIシステム、モデル、エージェント、および組み込みAI機能の総体。承認済みシステムとシャドーシステムの両方を含みます。

AIガバナンス

AIシステムの倫理的かつ効果的な開発と利用を支援するポリシー、プロセス、制御の枠組み。

金融サービス向けAIガバナンス

銀行・保険業界に求められる厳格な健全性規制および行動規範要件に対応するための、AIリスク管理フレームワークの専門的な適用。

AIガバナンスソフトウェア

人工知能システムの在庫管理、リスク評価、ならびに規制遵守を自動化するために使用される、専門的なエンタープライズ向け専用ツールです。

AI在庫管理

組織全体で使用されている全てのAIシステム、モデル、エージェントの包括的かつ集中管理されたカタログであり、そのビジネス目的、リスクレベル、所有権を追跡します。

EU AI責任指令

AIシステムによって生じた損害について、請求者が損害賠償を求める手続きを、因果関係についての反証可能な推定を導入することにより簡素化することを目的としたEU指令案です。

AIリテラシー

AIの概念、能力、限界を理解し、AI技術との適切な交流を可能にします。

人工知能管理システム(AIMS)

組織の相互に関連する、または相互に作用する要素の集合であり、AIの責任ある開発または利用のための方針、目的、およびプロセスを確立するもの。

AI監視

AIシステムのパフォーマンスを継続的に観察および分析し、信頼性、安全性、コンプライアンスを確保します。

AIリスク

AIシステムが引き起こす可能性のある損害や意図しない結果には、倫理的、法的、運用上のリスクが含まれます。

AIリスク管理

AIシステムに関連するリスクの特定、評価、軽減のプロセス。

AIの乱立

AIツールへの容易なアクセスと、効果的な導入受付およびインベントリ管理プロセスの欠如により、組織全体でAIシステムが統制されずに拡大していく状況。

AIシステム影響評価

AIシステムの導入が、個人、グループ、そして社会全体に及ぼし得る潜在的な影響を評価するための正式なプロセス。

AIの透明性

AIシステムはその運用、意思決定、データの使用に関して開かれており、明確であるべきという原則。

AI TRiSM(AI トリズム)

Gartnerによって作られた頭字語であるAI Trust、Risk、Security Management(AI信頼性、リスク、およびセキュリティ管理)を指します。ガバナンス、信頼性、およびセキュリティを単一の運用戦略に統合するフレームワークです。

人工知能およびデータ法(AIDA)

カナダの連邦規制枠組み(C-27法案の一部)は、影響の大きいAIシステムが安全かつ偏りなく開発・利用されることを確保することを目的としています。

アルゴリズム

AIシステムが独自に学習するのを助けるための一連の規則または指示。

アルゴリズムの偏り

アルゴリズムが機械学習プロセスの誤った仮定により系統的に偏った結果を生成する際に発生するバイアス。

アルゴリズムによるガバナンス

アルゴリズムを活用して社会的機能を管理および規制することは、意思決定プロセスに影響を与える可能性があります。

救済プログラム

従業員が、懲戒処分を受ける不安なく、承認されていないAIツールの使用を申告できる、期間限定のガバナンス施策です。

附属書I製品

EUの健康・安全に関する法令(例:機械、医療機器)により既に規制されている製品の一覧であり、EU AI Actの下で組み込まれたAIは自動的に高リスクに分類されます。

附属書IIIのカテゴリ

EU AI Act により定義された、必須のコンプライアンス対応が求められる高リスク AI アプリケーション領域の具体的な一覧。

APIトラフィック分析

外部AIサービスプロバイダーに対して行われるネットワーク呼び出しを監視・検査するための技術的なプロセスです。

第6条第3項の例外

EU AI法に基づく自己判定メカニズムであり、重大な害を及ぼさない場合に、提供者が附属書IIIのAIシステムを高リスクではないと分類できる仕組み。

EU AI法第25条

高リスク AI システムの提供者と導入者の間に直接的な義務連鎖を構築し、システムが大幅に改変された場合の責任移転も含む、EU AI 法の規定。

EU AI法 第50条

人と対話するAIシステム、合成コンテンツを生成するAIシステム、またはディープフェイクを生成するAIシステムに対して、透明性義務を定めるEU AI法の規定。

汎用人工知能

人間の知能に類似した一般的な方法で理解し、学習し、知識を適用する能力を持つAIの一種です。

人工知能

機械による人間の知能プロセスのシミュレーション、特にコンピューターシステムによるものであり、学習、推論、自己修正を含みます。

オーストラリア向け安全かつ責任あるAIポリシー

オーストラリア連邦における、公共サービスおよび政府機関でのAIの利用を規定する方針。

自動化されたAIガバナンス

ソフトウェアとAPI連携を活用し、手動介入なしで継続的かつリアルタイムにコンプライアンスチェックとリスク監視を実施すること。

B

誤差逆伝播法

ニューラルネットワークで使用される訓練アルゴリズムで、出力層から誤差を逆伝播させて重みを調整し、損失を最小限に抑えます。

バッチ学習

モデルが逐次学習ではなく、データセット全体を一度に学習する機械学習のアプローチです。

ベンチマーキング

AIシステムのパフォーマンスを標準的な指標や他のシステムと比較して、その効果を評価するプロセスです。

バイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

バイアス増幅

AIシステムが、訓練データに存在する既存のバイアスを悪化させ、ますます偏った結果を招く現象。

バイアス監査

AIシステムにおけるバイアスを検出し、緩和するための評価プロセスを策定し、公平性および倫理基準への準拠を保証します。

バイアス検出

AIモデルの出力や意思決定プロセスを分析することによって、偏見を特定するプロセス。

バイアス軽減

AI開発において、モデルやデータセット内のバイアスを削減または排除するために適用される技術。

ブラックボックスモデル

意思決定のプロセスが不透明または解釈できないため、どのように意思決定が行われるかを理解するのが難しいAIシステムです。

ボット

エンタープライズソフトウェア製品向けのマーケティングサイトにふさわしい形式で翻訳します。自動化されたタスクを実行するソフトウェアアプリケーションで、顧客サービスやデータ収集などのタスクにAIでよく使用されます。

ブラジルのAI法案(PL 2338/2023)

ブラジルにおける、AIの権利とガバナンスに関する国家的枠組みを確立するための主要な立法的取り組み。

ブリュッセル効果

EUの規制が、市場アクセス要件を通じて、EU域外に本社を置く組織においても、事実上のグローバルな標準となる現象。

C言語

カリフォルニア州AB 1008

CCPAを改正し、個人情報にはAIシステムによって生成または出力されたデータが含まれることを明確にするもの。

カリフォルニア州AB 3030

医療現場において患者とのコミュニケーションに生成AIが使用される場合に、透明性を求めるカリフォルニア州法。

カリフォルニア州の ADMT 規制

カリフォルニア州消費者プライバシー法(CCPA)に基づく、自動意思決定技術(ADMT)を規定する規則。

カリフォルニア州FEHAにおけるAI規制

公正雇用・住宅法(FEHA)に基づく、職場におけるAI主導の差別を対象とした州レベルの規制。

カリフォルニア州AI透明性法(SB 942)

大規模な生成AIシステム提供事業者に対し、検出ツールの提供と、AI生成コンテンツへの潜在的および明示的な開示の組み込みを義務付ける法規制。

カスケード障害(ASI08)

1つのAIエージェントの推論におけるエラーや悪意ある入力が、接続された複数のエージェントやシステム全体にわたる障害の連鎖を引き起こす障害モード。

因果推論

AIと統計学の分野で用いられる手法であり、因果関係を特定し、介入や変数の変更が影響を及ぼすことを理解するのに役立ちます。

CEマーキング

EEA(欧州経済領域)内で販売される製品について、AIシステムが健康、安全、および環境保護に関する基準に適合していることを示す必須の認証マーク。

変更通知期間

AIモデルに対する重要な更新を本番環境に展開する前に、ベンダーが顧客へその更新を通知しなければならない契約期間。

チャットボット

AIを搭載したソフトウェアアプリケーションは、人間の会話を模擬するように設計されており、主に顧客サービスや情報収集のために使用されます。

中国における生成AI暫定措置

中国の一般向けに提供される生成AIサービスに関する規制要件。

分類

機械学習における教師あり学習技法で、モデルがトレーニングデータに基づいて新しい観測のカテゴリまたはクラスラベルを予測します。

欧州評議会AI条約

人権、民主主義、法の支配の保護に焦点を当てた、AIに関する初の法的拘束力を有する国際条約。

認知バイアス

訓練データ内に存在する場合、AIの意思決定に影響を与える可能性がある、通常や合理性からの一貫した逸脱のパターン。

コグニティブ・コンピューティング

人間の思考プロセスをコンピュータモデルで模倣し、複雑な問題を人の手を借りずに解決することを目指すAIのサブセット。

認知負荷

AIにおけるシステム設計では、ユーザーを圧倒しないようにするために、作業記憶で使用される精神的な努力の総量が考慮されます。

コロラド州AI法(SB24-205)

高リスクAIシステムの開発者および導入者に対し、注意義務基準の実施と年次の影響評価の実施を求める、米国初の包括的な州法です。

Colorado AI Act (SB 26-189)

Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.

コンプライアンスフレームワーク

組織が規制および倫理基準を満たすAIシステムを確実にするために従うガイドラインとベストプラクティスの体系的なセット。

コンプライアンスリスク

法律、規制、または定められた慣行に従わない場合に企業が直面する法的あるいは規制上の制裁、財務上の損失、または評判の損害の可能性。

コンピュータービジョン

AIの一分野として、コンピュータに画像やビデオなどの視覚情報を解釈し処理する能力を訓練する技術です。

コンセプトドリフト

モデルが予測しようとしている対象変数の統計特性の時間経過に伴う変化は、モデルの劣化を引き起こします。

信頼区間

サンプル統計から導き出された一連の値で、未知の母集団パラメーターの値を含む可能性が高く、AIにおいて不確実性を表現するために使用されます。

適合性評価

AIシステムが指定された要件、基準、または規制を満たしているかどうかを判断するプロセスであり、多くの場合、テストおよび認証が含まれます。

内部統制(適合性評価)

EU AI Actにおいて、提供者が、自社の高リスクAIシステムがすべての規制要件を満たしていることを、第三者による監査を必要とせずに自己確認するプロセス。

継続的学習

AIシステムは、新しいデータ入力から人間の介入なしに継続的に学習し、適応し、時間とともに改善する能力を持っています。

制御性

人間がAIシステムの決定や行動を指示、影響を与える、または無効化することができる程度。

COREPER の権限

EU加盟国の大使(常駐代表委員会)が、EU法案に関する三者協議の交渉に向けて、輪番制の理事会議長国に付与する交渉権限。

交差検証

統計解析の結果が独立したデータセットにどのように一般化されるかを評価するためのモデル検証手法。

暗号学的エージェントの識別情報

AIエージェントとその権限レベルを一意に識別する、検証可能なデジタル資格情報(多くの場合、分散型識別子、DID)。

サイバーセキュリティ

システム、ネットワーク、およびプログラムをデジタル攻撃から守る実践は、脅威に対してAIシステムを保護する上で重要です。

データ

データドリフト

時間の経過に伴うモデル入力データの変化は、監視・対応しなければ、モデルの性能低下を引き起こす可能性があります。

データ倫理

個人を特定可能な情報を収集、保護、使用する際の倫理的義務に関して、データの取り扱いを評価する倫理学の一分野です。

データガバナンス

企業におけるデータの可用性、使用性、整合性、およびセキュリティの全体的な管理は、データのライフサイクル全体を通して適切に取り扱われることを保証します。

データ取り込みリスク

ユーザーとのやり取りの中で、機密情報または専有情報が AI モデルの学習データセットに永続的に取り込まれてしまう危険性。

データライフサイクル管理

データフローのライフサイクル全体にわたるポリシーに基づく管理: 作成および初期保存から、陳腐化し削除されるまでの一連の流れを包括的に管理します。

データ最小化

特定の目的に必要なデータのみを収集するという原則は、誤用や漏洩のリスクを軽減します。

データプライバシー

情報技術の側面で、どのデータが共有され、誰と共有されるかを制御する能力を扱い、個人データが適切に取り扱われることを保証します。

データ保護

重要な情報を保護し、破損、漏洩、損失を防止するとともに、データ保護法規制への準拠を確実にするプロセスです。

データの来歴

AIモデルの学習またはファインチューニングに使用されるデータセットの出自、所有権、およびライフサイクルに関する文書化された記録。

データ品質

AIモデルの効果的なパフォーマンスに不可欠であるデータの状態は、正確性、完全性、信頼性、関連性といった要因に基づいています。

データレジデンシー

組織のデータの物理的または地理的な場所は、データ保護法の遵守に影響を及ぼす可能性があります。

データ主権

データは、それが収集、保存、または処理される国家の法律およびガバナンス構造に従うという概念です。

データ主体

個人データが収集、保持、または処理される個人は、特にGDPRのようなデータ保護法の文脈で重要です。

識別情報の削除

データセットから個人識別子を削除または隠蔽し、個人の特定を困難にするプロセスであり、プライバシー保護に利用されます。

ディープラーニング

複数層のニューラルネットワークを伴う機械学習の一部であり、データの複雑なパターンをモデル化することを可能にします。

ディープフェイク

既存の画像やビデオ内の人物が、ディープラーニング技術を使用して作成された他の人物の肖像に置き換えられる合成メディア。

差分プライバシー

データセット内のグループのパターンを記述しつつ、個人に関する情報を秘匿したまま、データセットについての情報を公に共有するシステムです。

AIに関するEUデジタル・オムニバス

EU AI法および関連するデジタル安全関連法全体にわたり、技術標準、適合性評価、ならびに執行スケジュールを簡素化し、整合性を持たせることを目的とした、2025/2026年の法制パッケージ。

差別

AIにおいて、データやアルゴリズムの偏見に基づく個人またはグループに対する不公平な扱いを指し、それが不平等な結果を招くことを意味します。

分散型学習

トレーニングデータが複数のデバイスまたは場所に分散され、生のデータを共有することなく、協力してモデルをトレーニングする機械学習アプローチです。

ドメイン適応

機械学習の技術の一つであり、ある領域で訓練されたモデルが異なるが関連する領域で機能するように適応されることを指します。

デュアルユース基盤モデル

膨大なデータで学習され、高い性能を備えており、民生用途だけでなく、有害な用途や軍事目的にも利用され得るAIモデル。

動的リスク評価

AIシステムにおける新たな脅威に対して、タイムリーな対応を可能にする、リスクの継続的なリアルタイムでの識別および評価のプロセス。

E

エッジAI

データ生成の源であるエッジデバイスにAIアルゴリズムを展開し、データ処理と意思決定を可能にします。

エッジアナリティクス

データ生成のソースに近いネットワークのエッジでのデータ分析により、待ち時間と帯域幅の使用を削減します。

組み込みAI

サードパーティのソフトウェア・アズ・ア・サービス(SaaS)プラットフォームやエンタープライズ向けツールに直接統合されたAI機能、またはその機能です。

アンサンブル学習

複数のモデルを訓練して組み合わせることで同じ問題を解決し、全体的なパフォーマンスを向上させる機械学習のパラダイム。

エンティティ解決

異なるデータセット間で同じ実世界のエンティティを参照するレコードを識別し、リンクするプロセスです。

Enzai

企業向けAIガバナンスプラットフォームは、組織がAIシステムをインベントリし、評価し、管理することを可能にし、AIの採用を最大化しながらAIリスクを最小限に抑えることを保証します。

エスカレーションロジック

AIエージェントが自律動作を停止し、制御を人間のオペレーターに引き渡すよう強制する、事前定義されたルールとトリガーのセット。

ESMAのAI/MLガバナンスに関する期待事項

欧州証券市場監督局による、金融市場におけるAIおよび機械学習の利用に関する規制ガイドライン。

倫理的なAI

倫理原則と価値観に沿って設計、開発、展開されるAIシステムの慣行は、公平性、説明責任、透明性を確保します。

倫理的AI監査

AIシステムが倫理基準を順守し、害を及ぼさないことを保証するために、体系的に評価するプロセス。

倫理的AI認定

AIシステムが確立された倫理基準とガイドラインに従っていることを正式に認定すること。

倫理的なAIガバナンス

AIシステムが適切かつ倫理的に開発・使用されることを保証するためのポリシー、手順、実践のフレームワーク。

倫理的枠組み

AI システムの倫理的な開発と展開を導くために設計された原則とガイドラインの体系的なセット。

倫理的ハッキング

AIシステムの堅牢性を確保するために、意図的にシステムの脆弱性を探し出し、セキュリティ問題を特定して修正する取り組みです。

倫理的影響評価

AIシステムの導入前に、その倫理的影響および潜在的な社会的影響を特定し、対処するための体系的な評価プロセス。

倫理的リスク

AIシステムが偏見、差別、プライバシー侵害などの非倫理的な行動により、害を及ぼす可能性があるというリスク。

信頼できるAIのための倫理ガイドライン

欧州委員会のAIハイレベル専門家グループによって開発された一連の指針であり、人間の主体性、技術的堅牢性、プライバシー、透明性、多様性、社会的幸福、説明責任に重点を置き、信頼できるAIを促進することを目的としています。

EU AI 法

欧州連合内で導入または使用されるシステムに対し、リスクベースの分類体系を確立する、世界初の包括的な横断的AI法的枠組みです。

EU AI法における高リスクカテゴリー

EU AI法における高リスクAIシステムは、主に2つに分類されます。1つ目は、付属書IIIに列挙された単体システムで、生体認証、重要インフラ、雇用、教育、法執行など、その他の指定用途を対象とします。2つ目は、付属書Iに列挙された規制対象製品に組み込まれたAIで、医療機器、車両、機械、その他の規制対象製品区分を対象とします。

EU AI法におけるリスク分類

EU AI Actに基づき、AIシステムに対して4つのリスクレベル(許容不可、高、限定的、最小)のいずれかを割り当てる義務付けられたプロセスです。

EU AIオフィス

EU AI法の実施および執行を監督するために欧州委員会に設置された機関。特に、システミックリスクを伴う汎用AIモデルに対する監督を担います。

EUデジタル・オムニバス

欧州連合による2025~2026年の包括的な法規制簡素化パッケージであり、AI法、GDPRの規定、サイバーレジリエンス法、データ法の改正など、複数のデジタル規制に対応するものです。

過剰な自律性

AIシステムに、その本来の機能に対して過度な自律性、過剰なツール、または過剰な権限付きアクセスが付与されることによって生じる脆弱性。

大統領令14110号

2023年10月に署名され、2025年1月に撤回された、AIの安全性、セキュリティ、プライバシーに関する米国の国家標準を策定し、NISTに米国AI安全性研究所(U.S. AI Safety Institute)を設置した、バイデン政権の指令。

説明可能性技術

AIモデルによって行われた意思決定を解釈し理解するための手法には、LIMEやSHAP、サリエンシーマップなどがあります。

説明可能性と解釈可能性

両者ともAIの意思決定を理解しやすくすることを目指していますが、説明可能性は意思決定の理由に焦点を当てており、解釈可能性はモデルの内部メカニズムの透明性に関わっています。

説明可能なAI(XAI)

AIシステムは、その決定と行動について人間が理解できる説明を提供するように設計されており、透明性と信頼性を高めます。

説明可能な機械学習

予測や意思決定に対して明確で理解しやすい説明を提供するように設計された機械学習モデル。

エフ

公平性

AIシステムがさまざまな個人やグループに対して偏りのない公平な結果を生成し、差別的な影響を軽減することを保証します。

公平性指標

AIモデルの予測がグループ間でどれほど公正であるかを評価するために使用される定量的指標(例:人口統計の平等性、平等化されたオッズ)。

偽陰性

AIモデルが実際には正であるインスタンスに対して誤って負のクラスを予測する場合(タイプIIエラー)。

誤検出

AIモデルが実際にはネガティブなインスタンスに対して誤ってポジティブクラスを予測する場合(第一種過誤)。

フォルトトレランス

AIシステムがいくつかのコンポーネントで故障やエラーが発生した場合でも、正しく動作し続ける能力。

特徴工学

機械学習モデルの性能を向上させる特徴量として、生のデータセット属性を作成、選択、または変換すること。

機能抽出

生データ(例: テキストや画像)を、機械学習アルゴリズムへの入力に適した数値表現(特徴量)にマッピングするプロセス。

機能選択

モデルトレーニングのために最も関連性の高い特徴を特定して選択し、複雑さを軽減し精度を向上させます。

連携型AIガバナンス

中央の方針と監督を基盤としつつ、事業部門や地域拠点に意思決定を分散させ、一貫性と運用上の柔軟性を両立するガバナンスモデル。

フェデレーテッドラーニング

モデルが生データを中央で共有することなく、複数のデバイスやサーバーにあるローカルデータでトレーニングされる分散型機械学習アプローチ。

フィードバックループ

AIの出力を再び入力として取り込むことで、モデルの挙動が増幅されるプロセスです。これは、良い方向では(強化学習)、悪い方向では(バイアスの強化)として作用する可能性があります。

微調整

あらかじめ学習済みのAIモデルを特定のタスクやデータセットに適応させ、新しいデータを用いて学習を続けることで、しばしばタスク特有のパフォーマンスを向上させます。

形式的検証

AIアルゴリズムが指定された正確性の特性を遵守していることを数学的に証明することは、安全性が非常に重要なシステムでよく使用されます。

フレームワーク

AIシステムのガバナンス、開発、展開、監視を導くためのポリシー、プロセス、ツールの構造化セットです。

不正検出

AI技術(例:異常検知、パターン認識)を利用して、金融や保険などでの不正行為を特定し防止することができます。

FS AI RMF(金融サービス向けAIリスク管理フレームワーク)

2026年2月に公表された、金融サービス企業向けの米国財務省による専門的なAIリスク管理フレームワークであり、NIST AI RMFを業界固有の義務に合わせて適用したものです。

機能安全

AIシステムがあらゆる状況下で安全に運用されることを保証することは、特に自動車産業や医療分野においては、冗長性やチェックを通じて重要です。

基本的権利への影響評価(FRIA)

EU AI法に基づき、特定の導入者に対して義務付けられる評価であり、高リスクAIシステムの利用が市民の自由および人権にどのような影響を及ぼし得るかを判断するものです。

ファジー論理

二値の真偽(真/偽)ではなく、近似的な値に基づく推論を扱う論理システムであり、制御システムや不確実性への対応に有用です。

ジー

ギャップ分析

現在のAIガバナンスの実践を望ましい基準や規制と比較して、改善が必要な領域を特定するプロセスです。

一般データ保護規則 (GDPR)

EUの一般データ保護規則は、個人データの収集、処理、個人の権利に関する厳格な要件を確立しています。

一般化

AIモデルがトレーニング例を記憶するのではなく、基盤となるパターンを捉えることによって、新しい未見のデータで高い性能を発揮できる能力。

生成的AI

新しいコンテンツ(テキスト、画像、その他のメディア)を生成するAI技術(例:GAN、トランスフォーマー)であり、しばしば新たなガバナンスおよび知的財産(IP)に関する懸念を引き起こします。

グローバルモデル

複数の情報源から収集されたデータで訓練された統合AIモデルは、ローカライズされたモデルやパーソナライズされたモデルとは異なります。

目標のずれ

AIエージェントの内部サブゴールや推論プロセスが、当初人間から与えられた目的から徐々に逸脱していく現象。

ガバナンス

AIシステムの倫理的、合法的、かつ効果的な開発および展開を導く一連の方針、手続き、役割、責任。

ガバナンス機関

組織内でAIガバナンス方針とその実行を監督することを任務とする法務、倫理、技術などのクロス機能グループ。

ガバナンスフレームワーク

AIガバナンスの構成要素(リスク管理、アカウンタビリティ、監督)がどのように組み合わされて、コンプライアンスと倫理的な利用を確保するかを説明するための構造化されたモデルです。

ガバナンス成熟度モデル

組織のAIガバナンス実践の進化度を評価するための段階的枠組みであり、臨時的なものから最適化されたものまでを対象としています。

ガバナンスポリシー

企業内のAI開発および監督に関する規則、役割、手続きを成文化した正式な文書です。

ガバナンススコアカード

AIガバナンスの有効性を時間の経過とともに測定するために、重要な指標(例:偏りのある事件やコンプライアンス監査)を追跡するダッシュボードまたは報告書。

GPAI 行動規範

EU AI Actに基づき、汎用AI(GPAI)モデルの提供者に求められる、透明性、安全性試験、およびリスク軽減に関する具体的な義務を明確に定めた詳細な規制文書。

GPAIモデル

さまざまなアプリケーションに統合でき、幅広い個別タスクを実行可能な汎用人工知能モデル。

GPU(グラフィックスプロセッサ)

大規模なAIモデルを効率的にトレーニングおよび実行するために広く使用されている、並列計算専用のハードウェアアクセラレータです。

勾配降下法

損失関数を最小限に減少させる方向にモデルパラメータを反復的に調整する最適化アルゴリズム。

詳細な同意

データの使用ごとに個別に許可を与えたり拒否したりできるデータプライバシーアプローチであり、透明性とコントロールを強化します。

グリーンAI

エネルギー効率の高いアルゴリズムや持続可能なコンピューティングの実践を通じて、AIの環境への影響を削減する取り組み。

グレイボックスモデル

内部ロジックが部分的に透明であるモデル(いくつかのコンポーネントは解釈可能であり、他は不透明である)は、性能と説明可能性のバランスを取ります。

グラウンドトゥルース

AIモデルのパフォーマンスを訓練および評価するための基準として使用される、正確な現実世界のデータまたはラベルです。

ガードレール

AIシステムに組み込まれた定義済みの制約やチェック(技術的およびポリシー)は、実行時における安全でないまたはコンプライアンスに違反する行動を防ぐためのものです。

ガイドライン(倫理的AI)

責任あるAI開発と展開を形成するために発行される、IEEEやEUなどの組織による、拘束力のない推奨またはベストプラクティスの文書です。

エイチ

幻覚

生成AIがトレーニングデータに基づかないにもかかわらず、もっともらしく見える誤った情報や捏造された情報を生成する場合。

欠損データの処理

データセットの欠損を解決し、モデルの整合性と公平性を維持するための手法(例:補完、削除、モデリング)。

ハードウェアアクセラレーター

AIの計算を高速化するために設計された専門チップ(例:GPU、TPU)は、エネルギー使用とサプライチェーンに関するリスクに影響を与えます。

リスク評価

AIシステムがもたらす可能性のある負の影響(物理的、心理的、社会的)を評価し、緩和策を策定します。

調和化

AIのポリシー、標準、および規制を各管轄区で整合させ、競合を減らし、相互運用性を実現します。

統一された構造

ISOマネジメントシステム規格全体に適用される標準化されたテンプレートで、旧称は Annex SL です。用語および条項番号の一貫性を確保します。

ハッシュ化

データを固定サイズの文字列に変換するプロセスで、データの整合性チェックやプライバシーを保護しながらの記録のリンクに使用されます。

異種データ

異なる種類のデータ(テキスト、画像、センサー)や複数のドメインからのデータを組み合わせることは、統合およびガバナンスの課題を引き起こします。

ヒューリスティック

AIプロセスを迅速化するために使用される経験則または簡略化された意思決定戦略であり、しばしば最適性を効率性に交換します。

ヒューリスティック評価

AIシステムを既存のユーザビリティ原則に基づいて専門家が評価し、潜在的な問題を特定するためのユーザビリティ評価手法です。

高リスクのAIシステム

個人の健康、安全、または基本的人権を損なう重大な可能性を有し、EU AI法に基づく最も厳格なコンプライアンス要件が適用されるAIアプリケーション。

ハイステークスAI

重大な被害を引き起こす可能性があるAIアプリケーション(例えば、医療診断や自律走行車)には、厳格なガバナンスと監視が必要です。

人間を介したプロセス

AIプロセス(トレーニング、検証、意思決定のレビュー)に人間の判断を組み込むことで、正確性と説明責任を向上させます。

人間による監督

指定された個人がAIシステムの意思決定を監視し、介入し、または上書きして倫理的および法的な遵守を保証するためのメカニズム。

人権影響評価

AIシステムが基本的人権(プライバシー、表現の自由、差別の禁止)にどのように影響するかを評価し、緩和策を特定するためのプロセスです。

ハイブリッドモデル

複数の学習パラダイム(例: シンボリックとニューラル)を組み合わせて、説明性とパフォーマンスのバランスを取るAIシステム。

ハイパーパラメーター

モデルの学習前に設定され、学習の挙動や性能に影響を与える設定変数(例: 学習率、木の深さ)。

ハイパーパラメータチューニング

モデルのパフォーマンスを最大化するために、グリッド検索やベイズ最適化などを通じて最適なハイパーパラメータ値を検索するプロセス。

不均衡データ

あるクラスまたはカテゴリが他のクラスやカテゴリに比べて著しく数が多いデータセットは、適切な対策を講じない限り、AIモデルが多数派のクラスに偏る原因となる可能性があります。

不変の台帳

改ざんが検知可能な記録保持メカニズム(例:ブロックチェーン)により、データは一度書き込まれると、検知されることなく変更することはできません。これは、AIの監査証跡に有用です。

影響評価

AIシステムの導入前に、潜在的な倫理的、法的、社会的影響を特定、分析、および緩和するための体系的な評価。

実施法

欧州委員会が採択する二次法であり、一次法を実施するための統一的な条件を定め、すべての加盟国に対して法的拘束力を有します。

潜在的なバイアス

トレーニングデータやモデル設計に組み込まれた無意識または意図しないバイアスが、差別的な結果を招く可能性があります。

インセンティブの整合

AIシステムの目標が人間の価値観と組織の優先事項に一致し続けるように、報酬構造と目的を設計すること。

帰納バイアス

学習アルゴリズムが観察されたデータから未知のインスタンスへ一般化する際に使用する仮定のセット。

推論

訓練されたAIモデルが新しいデータ入力を処理し、予測や決定を下すプロセスです。

推論エンジン

AIシステムのコンポーネント(特にルールベースまたはエキスパートシステムにおいて)は、知識ベースを入力データに適用して結論を導き出す機能を持っています。

情報ガバナンス

組織のデータ資産全体にわたり、データの品質、プライバシー、利用可能性を確保するための方針、手順、および管理、これにはAIのトレーニングデータセットも含まれます。

情報プライバシー

個人がAIシステムによって収集、使用、保存、共有される個人データを管理する権利。

コードとしてのインフラストラクチャ (Infrastructure as Code, IaC)

機械可読の構成ファイルを通じてAIインフラストラクチャ(計算、ストレージ、ネットワーキング)を管理およびプロビジョニングすることで、再現性と監査性を向上させます。

継承されたデータリスク

組織が、自ら収集または精査していないデータで学習されたAIシステムを使用する際に負う、規制上および倫理上の責任。

受付ワークフロー

新しいAIシステムが、構築または調達される前に通過しなければならない、標準化されたプロセスと一連のチェックです。

インテントの検証

AIエージェントが計画した各サブアクションが、元の人間が提示した目的と一貫していることを検証するプロセス。

相互運用性

多様なAIシステムやコンポーネントが、オープンスタンダードやAPIを通じて、情報を円滑に交換し、理解し、利用する能力。

解釈可能性

AIモデルの内部メカニズムまたは意思決定の合理性を人間が理解できる程度。

侵入検知

AIインフラとアプリケーションの悪意ある活動やポリシー違反を監視し、アラートや自動応答をトリガーします。

ISO/IEC 42001

人工知能管理システム(AIMS)を構築、導入、維持し、継続的に改善するための要件を規定した国際規格。

ISO/IEC 42005

AIシステムの影響評価の実施に関するガイダンスを提供する国際規格。

ISO/IEC JTC 1/SC 42

人工知能標準化に関する国際標準化機構 (ISO) と国際電気標準会議 (IEC) の合同委員会は、ガバナンス、リスク、および相互運用性のための国際的なAI標準を開発しています。

J

ヤコビアン行列

AIの説明可能性において、モデルの出力に対する入力の全一次偏導関数の行列は、感度と特徴の重要性を評価するために使用されます。

脱獄攻撃

ユーザーが脆弱性を利用して生成AIモデルの保護手段を回避し、不安全または不正な出力を引き起こす可能性があるプロンプトインジェクションの一形態です。

日本のAI推進法

AIの推進とリスク軽減に関する基本原則を定める、2025年に制定された日本の法律。

連帯責任

複数の関係者(例えば、開発者やデプロイ者)がAI関連の損害に対して責任を共有する法的原則であり、契約およびガバナンス構造に影響を与えます。

共同モデリング

複数のタスク(例えば、音声認識と翻訳)を共同で学習するAIシステムを構築し、その複雑さと監査可能性についてのガバナンスが必要です。

判断バイアス

認知バイアスや不完全なデータによって引き起こされる人間またはAIの意思決定プロセスにおける体系的なエラーには、偏見監査と緩和が必要です。

司法審査

AIによって行われたり補助されたりする決定の合法性を評価する法的プロセスであり、アカウンタビリティと適正手続きの確保を目的としています。

管轄区域

地理によって異なるデータ、AI操作、および責任に関する法的権限は、地域規制(例:GDPR、CCPA)へのコンプライアンスに影響を与えます。

陪審オートメーション

AIを使用して陪審員の選定やケース分析を支援することは、公平性、透明性、法的監視に関する倫理的懸念を引き起こしています。

ジャスティス・メトリクス

AI意思決定における公正性と差別禁止を評価するために使用される定量的な指標(例:異なる影響、機会の均等など)。

K

重要業績評価指標

AI ガバナンスとコンプライアンスの目標を監視し報告するために使用される定量的な指標(例えば、モデルの精度の変化、バイアスの修正時間)です。

主要リスク指標

AIのリスクが顕在化する前に、それらの発生を示す先行指標(例:スコープ外予測の頻度、説明不能な意思決定の割合)。

顧客の身元確認 (KYC)

AIシステムと関わる個人または組織の身元、リスクプロファイル、および正当性を確認するためのコンプライアンスプロセス、特に規制された業界において重要です。

知識蒸留

より大きな“教師”モデルからより小さな“生徒”モデルに洞察を転送する方法であり、パフォーマンスをリソースやガバナンスの制約とバランスさせます。

ナレッジグラフ

エンティティとその関係の構造化された表現を使用して、AIの説明性、監査可能性、およびドメインオントロジーとの整合性を向上させます。

ナレッジ管理

組織の知識(例:モデル文書、監査ログ)を取得、整理、共有するための実践とツール。これにより、再現性と監督が確保されます。

L

ラベル漏れ

出力情報が訓練データラベルに不注意に含まれることで、パフォーマンス指標が水増しされ、モデルの真の一般化問題が隠されてしまうことがあります。

大規模言語モデル

膨大なテキストコーパスで訓練されたディープラーニングモデルは、テキスト生成、翻訳、要約などのタスクを実行できますが、バイアスや誤用に対するガバナンスが求められることがよくあります。

最小限の関与

AIエージェントには、特定のタスクを完了するために必要な、最小限の自律性およびツールアクセスのみを付与すべきであるとする、セキュリティとガバナンスの原則。

最小特権

AIコンポーネントとユーザーに必要最小限のアクセス権のみを付与することで、機能を果たすために必要なリスクを低減するセキュリティ原則です。

法令遵守

AIシステムがその全ライフサイクルにわたって適用される法律、規制、および業界標準に従っていることを確保する実践。

責任の枠組み

AIに関連する損害や失敗に対する責任を明確にするための体系的なアプローチであり、開発者、導入者、およびオペレーターが含まれます。

ライフサイクル管理

AIシステムの開発、展開、監視、保守、および廃止のための統合されたプロセスは、継続的なコンプライアンスとリスク管理を確保するために設計されています。

ライブネス検知

入力(バイオメトリクスなど)が偽造やリプレイではなく、生きた主体から来ていることを確認するために使用される技術であり、それによりシステムのセキュリティと整合性を向上させます。

ローカライゼーション

AIシステムを各地域の言語、規制、文化的規範、データの居住要件に適合させること。

ログ管理

AIワークフローからのシステムおよびアプリケーションログの収集、保存、分析により、監査、インシデント対応、モデルパフォーマンスの追跡を支援します。

損失関数

予測された出力と真の値との違いを定量化し、モデルのトレーニングと最適化を導く数学的関数です。

M

市場監視当局

EU加盟各国において、AIシステムがEU AI法に準拠していることを監視する責任を担う国家規制当局。

MAS FEATの原則

シンガポール金融管理局による、金融分野におけるAI活用に関する公正性・倫理・説明責任・透明性(FEAT)の原則。

意義のある人間の制御

人間がAIの意思決定プロセスを監督し、介入し、上書きする能力を保持することを保証する規制および運用の基準です。

メタデータ管理

トレーサビリティと監査をサポートするために、記述データ(例: データの起源、機能の定義、モデルのパラメータ)を記録し維持する実践。

指標とKPI

AIシステムの健全性、リスク、コンプライアンスの目標を監視するために使用される定量的指標(例:精度の変動、公平性スコア、インシデント対応時間)。

メキシコ連邦人工知能およびアルゴリズム法

AIおよびアルゴリズムに関するメキシコ連邦法案であり、リスクベースの分類制度、国家AI委員会(CONAIA)、ならびにAI生成コンテンツに対するウォーターマーキング要件を提案しています。

緩和策

特定されたAIリスクとコンプライアンスのギャップに対応するための計画的な行動(例:バイアス是正、再訓練、機能再工学)。

ミネソタ州CDPA(AIに関する規定)

ミネソタ州消費者データプライバシー法におけるAI固有の構成要素。

モデルカード

機械学習モデルの性能、制約、および想定される用途に関する重要な情報を提供する、簡潔で標準化された文書です。

モデルの抹消

不適切または違法に取得されたデータを用いて開発されたAIモデルやアルゴリズムの削除を企業に求める、規制上の是正措置。

モデルドリフト

実世界のデータや環境の変化により、AIモデルの予測性能が時間の経過とともに低下すること。

モデルの説明可能性

AIモデルの意思決定ロジックをステークホルダーや監査人に理解可能にする技術とドキュメント。

モデルガバナンス

AIモデルが組織の基準および規制要件に準拠して開発、承認、および使用されることを保証するためのポリシー、役割、および制御。

モデル監視

AIモデルのパフォーマンス、データのドリフト、運用指標を継続的に監視し、劣化や新たなリスクを検出します。

モデル再訓練

データ分布の進化に伴い、性能とコンプライアンスを維持するために、新しいデータや更新されたデータでAIモデルを更新するプロセス。

モデルリスク管理

AI/MLモデルのライフサイクル全体を通じて発生するリスクを特定し、評価し、軽減するための構造化されたプロセス。

モデル検証

AIモデルが本来の目的と性能基準を満たしていることを確認する評価活動(例:保持データに対するテストやストレスシナリオ)。

マルチステークホルダーエンゲージメント

AIガバナンスプロセスにおいて多様なグループ(法務、倫理、運用、エンドユーザーなど)を関与させ、リスクのバランスを取った監視を行い、ビジネス目標と一致させるための体制を整えます。

いいえ

自然言語処理(NLP)

機械がテキストや音声形式で人間の言語を解釈、生成、分析することを可能にする技術とツール。

ネットワークセキュリティ

AIインフラストラクチャとデータパイプラインを不正アクセスや改ざんから保護するための措置と管理(例:セグメンテーション、ファイアウォール、侵入検知)。

ニューラルアーキテクチャ検索

ニューラルネットワーク構造を設計および最適化するための自動化手法は、複雑性とリソース制約とのバランスを取りながら、モデルのパフォーマンスを向上させます。

NIST AIリスク管理フレームワーク

米国国立標準技術研究所による自発的なガイダンスであり、AIシステムのライフサイクルにおけるリスクを軽減するためのベストプラクティス概要です。

NIST AI RMF プロファイル

特定の業界、技術、またはリスク種別に合わせて最適化された、NIST AIリスクマネジメントフレームワークの文脈に応じた実装。

ノイズインジェクション

意図的にランダムな摂動をトレーニングデータやモデルパラメータに導入し、頑健性を向上させ、敵対的な操作に対して保護します。

非人間アイデンティティ(NHI)

AIエージェント、ボット、またはサービスがエンタープライズシステムに対して認証し、連携するために使用するデジタル認証情報。

認証機関

EU加盟国によって指定され、EU AI法に基づき特定の高リスクAIシステムの適合性を評価する、独立した第三者機関。

新規性検出

トレーニングデータと大きく異なる入力やシナリオを特定し、予期しない障害を防ぐためにレビューや安全モードの操作を開始するための技術。

ニューヨーク市ローカル法第144号

雇用上の意思決定に使用されるAIツールに対し、年次のバイアス監査を義務付けるニューヨーク市の法律。

Oを

可観測性

ログ、メトリクス、出力の収集と分析を通じて、AIシステムの内部状態と動作を推測し、効果的な監視とトラブルシューティングを可能にする機能。

OMB覚書 M-25-21

米国政府機関に対し、AIガバナンスおよびリスク管理要件を定める連邦指令。

継続的なモニタリング

AIシステムの性能、データドリフト、バイアス指標、セキュリティイベントを継続的に監視し、時間の経過とともに新たに発生するリスクを検出し対処します。

不透明度

AIモデルが意思決定や予測に至る過程の透明性の欠如は、信頼性と規制遵守において課題をもたらします。

運用の自律性

AIシステムが、各段階で人の介入を必要とせずに、複数ステップのタスクを遂行し、意思決定を行う能力。

業務レジリエンス

AIシステムおよびそれを支えるインフラストラクチャが予測し、耐え、回復し、そして混乱や不利な事象に適応する能力。

オーケストレーション

AIワークフローとサービス(データ取り込み、モデル学習、デプロイメント)を自動的に統合・調整し、ポリシー遵守とリソースガバナンスを確実に実現します。

異常検知

期待されるパターンから著しく逸脱するデータポイントやモデル予測を特定し、レビューまたは緩和措置を促す技術。

出力リスク

AIシステムが生成した不正確、偏った、または有害なコンテンツを使用することにより生じる、業務上、法的、ならびに評判上のリスク。

過学習

AIシステムがトレーニングデータ内のノイズや特殊性を学習してしまい、新たな未確認データに対する一般化能力が低下するモデリングの問題です。

監督

AIの開発と導入に関するレビュー、承認、そして責任の構造化されたプロセスは、通常、様々な機能を持つ統治機関を含む形で行われます。

OWASP エージェンティック Top 10

自律型AIエージェントおよびそのアプリケーション環境に特有の、最も重要な10のセキュリティリスクを体系的に分類したものです。

所有権

AI資産(データ、モデル、プロセス)に関する責任と権限を明確に割り当て、システムライフサイクル全体を通じた説明責任を確保します。

P

パラメトリック知識

AIモデルが学習プロセス中に習得し、その重みとパラメーターに保存される情報。

整備された道筋のガバナンス

承認済みの安全なワークフローを、非承認の代替手段よりも簡単に実行できるようにすることで、コンプライアンスを促進する戦略。

権限管理

AIデータと機能へのユーザーおよびシステムのアクセス権限を、最小特権の確保と不正使用の防止を実現する形で管理します。

パイロットテスト

AIシステムの本格展開に先立ち、その性能、リスク、ガバナンス制御を評価するために、限定的な範囲の試験を管理された環境で実施します。

ポリシー施行

AIの運用が組織のポリシー、規制のルール、および倫理的ガイドラインに準拠することを保証する自動または手動のメカニズム。

展開後のモニタリング

リリース後のAIシステムの動作および環境を継続的に観察し、劣化、ドリフト、またはコンプライアンス違反を検出します。

PRA SS1/23(モデル・リスク管理)

英国健全性規制機構による、銀行および保険会社向けのモデルリスク管理に関する声明。

予測保守

AIを活用した監視と分析により、コンポーネントやシステムの故障を予測し、重要な環境における運用の回復力とリスク軽減を確保します。

適合性の推定

EU AI Actおよびその他の制度における法的な仕組みであり、整合規格(例:公表されたEN規格)に適合することで、基礎となる規制要件が満たされていると反証可能な推定が成立するものです。

プライバシー・バイ・デザイン

AIシステムのアーキテクチャとプロセスにおいて、データ保護とユーザーのプライバシーに関する考慮事項を最初から組み込むアプローチです。

プライバシー影響評価

AIシステムに関連するプライバシーリスクを特定し緩和するための構造的な分析には、データの収集、使用、共有、および保持を網羅しています。

確率論的システム

出力が、決定論的で固定的なロジックではなく、統計的な確率に基づいて決定されるシステム。

プロセスオートメーション

AIおよびワークフローツールを活用して、ガバナンス、コンプライアンスチェック、リスク軽減活動を効率化し、手動の作業やエラーを削減します。

定性的評価

AIシステムの行動、意思決定、および文書について、専門家が主観的に評価することで、定量的に捉えきれない倫理的、法的、または評判に関する懸念を特定します。

品質保証

AIモデルとデータパイプラインが正確性、信頼性、倫理的遵守の定められた基準を満たすことを保証するための体系的なプロセスとチェック。

品質管理

AIの出力およびプロセスをベンチマークやテストケースに照らして継続的に検証し、欠陥、バイアス事象、またはポリシー違反を検出します。

定量的リスク評価

AI の潜在的脅威のデータ駆動型評価では、軽減策の優先順位を決定するために、可能性と影響を数値で推定します。

量子コンピューティング

量子力学を活用する新たな計算パラダイムは、セキュリティ、標準化、リスクに関するガバナンスの新しい課題を提起しています。

クエリログの記録

AIシステムの入力とユーザーの問い合わせを記録することで、監査トレイルを可能にし、誤用を検出し、アカウンタビリティをサポートします。

プライバシーに関するお問い合わせ

ユーザーのクエリ内の機密情報を保護するための技術とポリシーを策定し、記録された入力が個人情報や専有データを損なわないようにすることを保証します。

アンケートフレームワーク

設計、調達、または展開時に使用されるガバナンスに焦点を当てた質問の体系的なセットで、AIシステムがポリシー要件に適合していることを保証します。

ガバナンスボードの定足数

AIのリスク、方針承認、または監査結果に関する正式な決定を行うために必要なガバナンス委員会メンバーの最小人数。

割り当て管理

AIリソースの使用(例:API呼び出し、計算時間)に対する制御と制限は、ガバナンスポリシーを遵守し、費用の高騰や乱用を防ぐために設定されています。

R言語

推論チェーン

AIエージェントが、初期の目的から最終的なアクションまたは出力に至るまでに従う、複数ステップの論理的プロセス。

リコース

AIによって権利や利益に影響を与える決定に対して、影響を受けた個人が異議を申し立てたり救済を求めたりすることができるメカニズム。

レッドチーミング

AIシステムの脆弱性を発見するために、内部または外部の専門家が攻撃や悪用シナリオを模擬するプロアクティブなテストアプローチ。

法令遵守

AIシステムが運用中、適用される法律、規制、業界標準(例:GDPR、FDA、金融監査)を遵守することを保証します。

再現性

同じデータ、コード、および設定を使用してAIモデルの結果を一貫して再生成する能力は、透明性と監査可能性を確保します。

責任割り当てマトリックス

各ガバナンス活動における役割と責任を明確化するためのツール(例:RACI)。誰が実行責任者(Responsible)、最終責任者(Accountable)、相談先(Consulted)、および報告先(Informed)であるかを明示します。

責任あるAI

ステークホルダーと社会に対して倫理的で透明性があり、責任を持った方法でAIシステムを設計、開発、展開する実践。

リスク評価

AIシステムにおける潜在的なリスクや故障を特定し、分析し、優先順位を付けて、適切な対策を策定するプロセス。

リスク管理フレームワーク

設計から廃止まで、システムライフサイクル全体でAIリスクに体系的に対処するためのガイドラインとプロセスの構造化されたセットです。

堅牢性

AIシステムがさまざまな困難または敵対的な条件下でも信頼できるパフォーマンスを維持する能力。

根本原因分析

AIシステムの失敗または予期しない動作の根本的な原因を特定し、是正措置を導くための体系的な調査。

エス

制限付き利用規約

AIシステムの誤用を防ぐため、許可されたコンテキスト、ユーザー、目的を指定する定義されたルールと管理を実施します。

セキュリティバイデザイン

AIシステムにおけるセキュリティコントロールとベストプラクティスを、設計初期段階から統合することで、脆弱性やデータ漏洩を防止します。

シャドーエージェント

ガバナンスチームの認識や承認を得ることなく組織内に導入され、業務システムや外部の関係者に影響を及ぼす行動を実行できる、未承認の自律型AIエージェント。

シャドウAI

ITの承認を得ずに従業員がAIモデル、エージェント、またはツールを無断で使用することは、データ漏洩や不正な自律的行動を通じて隠れたセキュリティ上の脆弱性を生み出します。

シンガポールのモデルAIガバナンス・フレームワーク

シンガポールのIMDAおよびPDPCによる、責任あるAI導入のための自主的なガイダンス・フレームワークです。

韓国AI基本法

韓国におけるAI開発と信頼のための包括的な法的枠組み。

社会的影響評価

AIシステムが社会的、経済的、文化的側面に与える影響を体系的に評価し、潜在的な損害と利益を特定します。

ソフトウェア開発ライフサイクル

AIアプリケーションのエンドツーエンドプロセス(要件定義、設計、構築、テスト、デプロイ、監視)は、各段階でガバナンスとコンプライアンスのチェックを組み込んでいます。

SR 11-7(モデルリスク管理)

銀行業務におけるモデルの利用に伴うリスクを管理するための、米国連邦準備制度理事会による基礎的なガイダンス。

ステークホルダーエンゲージメント

AI 開発と監督において影響を受ける当事者(例:ユーザー、規制当局、影響を受けるコミュニティ)を関与させ、多様な視点と支持を確保するプロセス。

適用宣言書(SoA)

組織のAIマネジメントシステムに関連するISO 42001附属書Aの管理策を特定し、その他の管理策が除外された理由を説明する文書。

大幅な変更

EU AI法の下で、その適合性または意図された目的に影響を及ぼす、市場投入後のAIシステムへの変更。

監視リスク

AIシステムが個人やグループに対して侵入的な監視に利用され、プライバシーや市民の自由を侵害する可能性があります。

合成データ

実際のデータ分布を模倣する人工生成データセットは、プライバシーを保護しながらトレーニングセットを拡張するために使用されます。

公式記録システム

組織内の特定のデータ要素または情報に関する、信頼性の高い正確なデータソース。

システミックリスクの閾値

汎用AIモデルを社会に対して高いリスクをもたらすものとして分類する、技術的または能力ベースの閾値(例:10^25 FLOPs)。

T

テールリスク

AIの行動や意思決定において、通常の期待を超える稀で極端な結果が起こる可能性があり、特別な緩和計画が必要とされます。

テストと検証

AIモデルをベンチマーク、エッジケース、およびストレス条件に照らして評価し、それらが性能、安全性、コンプライアンス基準を満たすことを保証するための体系的なプロセス。

第三者リスク

外部データプロバイダー、モデルベンダー、またはサービスプラットフォームに依存することから生じるリスクは、コンプライアンスやセキュリティの脆弱性を引き起こす可能性があります。

閾値設定

AIの意思決定ルールにおいて、境界やカットオフ値(例:信頼度スコア)を設定し、偽陽性と偽陰性のようなリスクをバランスさせること。

トレーサビリティ

AIライフサイクルの各ステップ(データ収集からモデル開発、導入まで)を追跡し、文書化することで、監査およびフォレンジック対応を支援する能力。

トレーニングデータセット

AIモデルがそのタスクを実行するために学習すべき関係やパターンを教えるために使用される、ラベル付きまたはラベルなしのデータの精選されたコレクション。

転移学習

あるタスク用に開発されたモデルを関連するタスクに適用する手法であり、開発時間を短縮する一方で、継承されたバイアスの管理が求められる技法です。

透明性

AIシステムのプロセス、意思決定論理、およびデータの使用を、ステークホルダーに対して説明責任を果たすために明確で理解しやすいものにする実践。

トリローグ

欧州委員会、欧州連合理事会、欧州議会による非公式の三者協議は、EU法案について正式採択に先立って政治合意に達するために用いられていました。

信頼できるAI

倫理的で信頼性があり、安全であり、人間の価値観と社会規範に一致した方法で設計および運用されるAIシステム。

ユーザー

英国AI機会行動計画

AIのメリットを最大化しつつ、対象を絞った拘束力のある安全規則を策定するための、英国政府の戦略ロードマップ。

アンダーフィッティング

AIシステムが基礎的なデータパターンを捉えるにはあまりに単純であり、その結果、トレーニングデータおよび新しいデータの両方において性能が悪化するモデリングの問題です。

統一性

AIシステム全体にわたり、ポリシー、コントロール、基準の一貫した適用を保証し、ガバナンスの隙間や不均一なリスク管理を回避します。

教師なし学習

モデルが明示的な結果の指示なしに、ラベルのないデータ内のパターンやグループを識別する機械学習アプローチです。

稼働時間モニタリング

AIシステムの可用性とパフォーマンスを継続的に追跡し、重大な業務やコンプライアンス要件に影響を与える可能性のある障害や劣化を検出します。

ユースケースガバナンス

特定のAI使用事例の定義、承認、監視は、各事例が組織の方針、倫理基準、リスク許容度に整合することを保証するための実践です。

ユーザー同意

AIシステムで個人データを収集、処理、または使用する前に、個人から明示的な許可を取得し記録するプロセスです。

ユーティリティ

AIシステムがその目的を達成する上でどれほど価値があるか、または効果的であるかを判断する尺度であり、関連するリスクやリソースコストとバランスを取ります。

V

バリデーション

AIモデルが意図されたタスクで正確にかつ信頼性高く機能し、定義されたパフォーマンス基準を満たすことを確認するプロセスです。

ばらつき監視

AIモデルの出力やパフォーマンス指標の変動を時間経過とともに追跡し、ドリフトを検出して潜在的な劣化やリスクを推測します。

ベンダーリスク管理

AIコンポーネントやサービスのサードパーティ供給者を評価・監視し、潜在的なコンプライアンス、安全性、倫理的リスクを識別し、軽減することを目的としています。

バージョン管理

AIのコード、モデル、およびデータセットに対する変更を管理し、追跡する実践は、再現性と監査可能性を確保するためのものである。

バージョンの固定

サイレントアップデートによってシステムの動作が変化することを防ぐため、AIシステムを検証済みの特定バージョンの基盤モデルに固定する手法。

拒否権

ガバナンス機関または利害関係者が保持する正式な権利として、容認できないリスクをもたらすAIの導入を阻止または変更を要求する権限。

監視モニタリング

AIの挙動や外部信号(例:規制の更新)の継続的な監視を行い、新たに発生するリスクや非遵守事項を迅速に特定して対応します。

ビジョンAI管理

コンピュータビジョンシステムに特化したガバナンスプロセスでは、データ品質の確保、偏りのチェック、および画像/ビデオを基にした意思決定における透明性が重視されています。

脆弱性評価

AIインフラストラクチャおよびアプリケーションにおけるセキュリティの弱点を特定、分析、優先順位付けし、修正作業を導く。

ダブル

ウォッチドッグモニタリング

AIの意思決定を監視し、ポリシーや閾値が違反された際に警告や介入をトリガーする独立したランタイムチェックです。

ウォーターマーキング

画像、音声、動画、合成テキストなどの AI 生成出力に、検出可能で機械可読な由来情報マーカーを埋め込み、下流の利用者やプラットフォームがコンテンツを AI 生成であると識別できるようにする手法。

重み付け監査

モデルの重みと構造を精査し、改ざんや意図しない動作を示す可能性のある異常、バックドア、バイアスを確認します。

ホワイトボックステスト

AIシステムの内部構造(コード、パラメータ、アーキテクチャ)を完全に把握した上で、正確性、セキュリティ、コンプライアンスを検証すること。

ホワイトリスト/ブラックリストポリシー

コンプライアンスを強化し、不正使用を防止するために、許可された(ホワイトリスト)および禁止された(ブラックリスト)入力、機能、または操作を定義するガバナンスルール。

ホワイトリスト登録

未承認または悪意のある要素からのリスクを軽減するために、AIパイプラインにおいて事前承認されたデータソース、ライブラリ、またはモデルコンポーネントのみを許可します。

ワークフローオーケストレーション

AIライフサイクルのタスク(データの取り込み、トレーニング、検証、展開)を自動化およびシーケンス化して、ガバナンスポリシーを強化し、一貫性を確保します。

ワークロード分離

AIコンピュート環境(例えば、開発、テスト、本番)とデータドメインを分離し、障害やセキュリティ侵害の影響範囲を制限します。

最悪のケース分析

AIシステムの最も重大な潜在的な故障や悪用を評価し、堅牢なリスク緩和策と非常時対応計画に役立てる。

一度書き込み、多数回読み取り (WORM) ストレージ

不変ストレージにより、一度記録されたログ、監査証跡、モデルアーティファクトは改変されることがなく、否認防止および法医学的レビューをサポートします。

X

X-バリデーション

データを折りたたみに分割し、モデルの一般化を厳密に評価し、過学習を検出するためのモデル検証手法(しばしば“X-Val”と略されます)。

XAI監査

AIの説明可能性の出力が内部方針や規制要件を満たしているかどうかを評価するレビュープロセスであり、十分な透明性を確保します。

XAI(説明可能なAI)

AIモデルの意思決定プロセスを人間に対して透明で理解可能にする技術と方法であり、責任とコンプライアンスの支援を行います。

XAIフレームワーク

組織がAIシステム全体で説明可能性の実践を実装、測定、管理するために使用する、体系的なアプローチまたはガイドラインのセット。

XAI指標

AIの説明の品質と信頼性を評価するために使用される定量的または定性的な指標(例:特徴の重要度スコア、説明の忠実度)。

Y

YARAルール

既知の悪意のあるコードや改ざんを検出するために、AIパイプラインやアーティファクトをスキャンするためのシグネチャベースの検出パターンセットです。

年次コンプライアンスレビュー

AIガバナンスのプロセス、ポリシー、システムの年次評価を実施し、規制および内部基準と継続的に整合していることを確認します。

エンタープライズソフトウェア製品のマーケティングサイトに適した形式で翻訳されたコンテンツです。

ゼロデイ脆弱性

パッチや緩和策が利用可能になる前に悪用される可能性がある、AIソフトウェアまたはインフラストラクチャ内の未発見のセキュリティ欠陥。

ゼロ欠陥許容度

AI出力におけるエラーやポリシー違反を未然に防ぐことを目指したガバナンス原則であり、厳密なテスト、監視、継続的な改善サイクルによって支えられています。

ゼロショット学習

一般化された知識表現を活用することで、明示的にトレーニングされていないタスクやデータを正確に処理または分類するモデルの能力。

ゾーンベースのアクセス制御

ネットワークまたはデータガバナンスアプローチは、リソースを異なるポリシーを持つゾーンに分割し、データの機密性に応じてAIシステムのアクセスを制限します。

ホワイトペーパー

すべて

AI 規制

ポッドキャスト

製品の更新情報

報道

用語集

エー

利用規定(AUP)

組織が適用するルール一式であり、従業員が会社提供のAIツールとどのように利用・連携できるかについて、許可される方法および禁止される方法を定めたものです。

認定資格

特定の規格に対する監査を実施する能力があると、ANABやUKASなどの国家認定機関によって正式に認定された認証機関が発行する証明書です。

正確性

AIシステムの出力が実世界のデータや意図された結果を正確に反映する程度。

アクションのプレビュー

AIエージェントが、人間による最終承認の前に、取り消し不可能な操作によって何が実行されるのかを正確に表示しなければならないガバナンス要件です。

アクションホワイトリスト化

AIエージェントが実行を許可されるツール、API、およびアクションを厳格に定義する、セキュリティおよびガバナンスの制御です。

敵対的攻撃

不正な出力を引き起こすために、誤解を招く入力を導入してAIモデルを操作する技術です。

エージェント・ファブリック

複数のAIエージェントを、それらが依存するモデル、ツール、データとともにホストし、オーケストレーションし、ガバナンスする統合ランタイム基盤。

エージェント目標の乗っ取り (ASI01)

攻撃者がエージェントの目標や意思決定経路を操作し、その自律的な動作を意図しない結果へ誘導する脆弱性。

エージェント・メッシュ

共有インフラストラクチャ層を通じて、AIエージェントが互いを検出し、通信し、作業を委任し合うネットワーク型トポロジー。

エージェンティックAI

複雑な目標を自律的に追求し、ソフトウェアの展開や金融取引などの多段階のアクションを最小限の人間の介入で実行するように設計された人工知能システムのクラスです。

エージェンティックAIガバナンス

自律型AIシステムのガバナンスに関する説明です。これらのシステムは、予測AI(インサイトを提供するもの)や生成AI(コンテンツを作成するもの)とは異なり、独立した行動(例:取引、コードの展開)を実行する能力を有しています。

エージェント型ポリシーエンジン

エージェントのアクションを実行前に捕捉し、あらかじめ定義された決定論的なガバナンスルールに照らして評価する実行時ソフトウェアコンポーネント。

AIの責任

AIシステムの開発者および運用者は、そのシステムが責任を持って設計および使用され、倫理的基準と法的要件を遵守することを保証する義務があります。

AI整合

AIシステムの目的と行動を人間の価値観や意図に合わせるプロセス。

AIアシスタント

自然言語による対話を通じてユーザーのタスク完了を支援するよう設計された会話型AIシステムであり、通常は大規模言語モデルによって駆動されています。

AI監査

AIシステムの倫理基準、規制、および性能指標への適合性を評価するための体系的な評価。

AIバイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

AI部品表(AIBOM)

基盤モデル、学習データセット、ライブラリ、依存関係など、AIシステムを構成する要素を体系的に一覧化したインベントリです。ソフトウェア部品表(SBOM)に相当する、AI向けの部品表といえます。

AIコンプライアンス

AIシステムがそのライフサイクル全体を通じて適用される法律、規制、および倫理指針を遵守すること。

AI倫理

AI技術の開発と導入に関連する倫理的影響と責任に関する分野です。

AIの説明可能性

AIシステムの内部メカニズムが人間によってどの程度理解され解釈されるか。

AIフットプリント

組織全体で、ある時点に使用されているAIシステム、モデル、エージェント、および組み込みAI機能の総体。承認済みシステムとシャドーシステムの両方を含みます。

AIガバナンス

AIシステムの倫理的かつ効果的な開発と利用を支援するポリシー、プロセス、制御の枠組み。

金融サービス向けAIガバナンス

銀行・保険業界に求められる厳格な健全性規制および行動規範要件に対応するための、AIリスク管理フレームワークの専門的な適用。

AIガバナンスソフトウェア

人工知能システムの在庫管理、リスク評価、ならびに規制遵守を自動化するために使用される、専門的なエンタープライズ向け専用ツールです。

AI在庫管理

組織全体で使用されている全てのAIシステム、モデル、エージェントの包括的かつ集中管理されたカタログであり、そのビジネス目的、リスクレベル、所有権を追跡します。

EU AI責任指令

AIシステムによって生じた損害について、請求者が損害賠償を求める手続きを、因果関係についての反証可能な推定を導入することにより簡素化することを目的としたEU指令案です。

AIリテラシー

AIの概念、能力、限界を理解し、AI技術との適切な交流を可能にします。

人工知能管理システム(AIMS)

組織の相互に関連する、または相互に作用する要素の集合であり、AIの責任ある開発または利用のための方針、目的、およびプロセスを確立するもの。

AI監視

AIシステムのパフォーマンスを継続的に観察および分析し、信頼性、安全性、コンプライアンスを確保します。

AIリスク

AIシステムが引き起こす可能性のある損害や意図しない結果には、倫理的、法的、運用上のリスクが含まれます。

AIリスク管理

AIシステムに関連するリスクの特定、評価、軽減のプロセス。

AIの乱立

AIツールへの容易なアクセスと、効果的な導入受付およびインベントリ管理プロセスの欠如により、組織全体でAIシステムが統制されずに拡大していく状況。

AIシステム影響評価

AIシステムの導入が、個人、グループ、そして社会全体に及ぼし得る潜在的な影響を評価するための正式なプロセス。

AIの透明性

AIシステムはその運用、意思決定、データの使用に関して開かれており、明確であるべきという原則。

AI TRiSM(AI トリズム)

Gartnerによって作られた頭字語であるAI Trust、Risk、Security Management(AI信頼性、リスク、およびセキュリティ管理)を指します。ガバナンス、信頼性、およびセキュリティを単一の運用戦略に統合するフレームワークです。

人工知能およびデータ法(AIDA)

カナダの連邦規制枠組み(C-27法案の一部)は、影響の大きいAIシステムが安全かつ偏りなく開発・利用されることを確保することを目的としています。

アルゴリズム

AIシステムが独自に学習するのを助けるための一連の規則または指示。

アルゴリズムの偏り

アルゴリズムが機械学習プロセスの誤った仮定により系統的に偏った結果を生成する際に発生するバイアス。

アルゴリズムによるガバナンス

アルゴリズムを活用して社会的機能を管理および規制することは、意思決定プロセスに影響を与える可能性があります。

救済プログラム

従業員が、懲戒処分を受ける不安なく、承認されていないAIツールの使用を申告できる、期間限定のガバナンス施策です。

附属書I製品

EUの健康・安全に関する法令(例:機械、医療機器)により既に規制されている製品の一覧であり、EU AI Actの下で組み込まれたAIは自動的に高リスクに分類されます。

附属書IIIのカテゴリ

EU AI Act により定義された、必須のコンプライアンス対応が求められる高リスク AI アプリケーション領域の具体的な一覧。

APIトラフィック分析

外部AIサービスプロバイダーに対して行われるネットワーク呼び出しを監視・検査するための技術的なプロセスです。

第6条第3項の例外

EU AI法に基づく自己判定メカニズムであり、重大な害を及ぼさない場合に、提供者が附属書IIIのAIシステムを高リスクではないと分類できる仕組み。

EU AI法第25条

高リスク AI システムの提供者と導入者の間に直接的な義務連鎖を構築し、システムが大幅に改変された場合の責任移転も含む、EU AI 法の規定。

EU AI法 第50条

人と対話するAIシステム、合成コンテンツを生成するAIシステム、またはディープフェイクを生成するAIシステムに対して、透明性義務を定めるEU AI法の規定。

汎用人工知能

人間の知能に類似した一般的な方法で理解し、学習し、知識を適用する能力を持つAIの一種です。

人工知能

機械による人間の知能プロセスのシミュレーション、特にコンピューターシステムによるものであり、学習、推論、自己修正を含みます。

オーストラリア向け安全かつ責任あるAIポリシー

オーストラリア連邦における、公共サービスおよび政府機関でのAIの利用を規定する方針。

自動化されたAIガバナンス

ソフトウェアとAPI連携を活用し、手動介入なしで継続的かつリアルタイムにコンプライアンスチェックとリスク監視を実施すること。

B

誤差逆伝播法

ニューラルネットワークで使用される訓練アルゴリズムで、出力層から誤差を逆伝播させて重みを調整し、損失を最小限に抑えます。

バッチ学習

モデルが逐次学習ではなく、データセット全体を一度に学習する機械学習のアプローチです。

ベンチマーキング

AIシステムのパフォーマンスを標準的な指標や他のシステムと比較して、その効果を評価するプロセスです。

バイアス

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力における系統的誤差は、不公平な結果をもたらす可能性があります。

バイアス増幅

AIシステムが、訓練データに存在する既存のバイアスを悪化させ、ますます偏った結果を招く現象。

バイアス監査

AIシステムにおけるバイアスを検出し、緩和するための評価プロセスを策定し、公平性および倫理基準への準拠を保証します。

バイアス検出

AIモデルの出力や意思決定プロセスを分析することによって、偏見を特定するプロセス。

バイアス軽減

AI開発において、モデルやデータセット内のバイアスを削減または排除するために適用される技術。

ブラックボックスモデル

意思決定のプロセスが不透明または解釈できないため、どのように意思決定が行われるかを理解するのが難しいAIシステムです。

ボット

エンタープライズソフトウェア製品向けのマーケティングサイトにふさわしい形式で翻訳します。自動化されたタスクを実行するソフトウェアアプリケーションで、顧客サービスやデータ収集などのタスクにAIでよく使用されます。

ブラジルのAI法案(PL 2338/2023)

ブラジルにおける、AIの権利とガバナンスに関する国家的枠組みを確立するための主要な立法的取り組み。

ブリュッセル効果

EUの規制が、市場アクセス要件を通じて、EU域外に本社を置く組織においても、事実上のグローバルな標準となる現象。

C言語

カリフォルニア州AB 1008

CCPAを改正し、個人情報にはAIシステムによって生成または出力されたデータが含まれることを明確にするもの。

カリフォルニア州AB 3030

医療現場において患者とのコミュニケーションに生成AIが使用される場合に、透明性を求めるカリフォルニア州法。

カリフォルニア州の ADMT 規制

カリフォルニア州消費者プライバシー法(CCPA)に基づく、自動意思決定技術(ADMT)を規定する規則。

カリフォルニア州FEHAにおけるAI規制

公正雇用・住宅法(FEHA)に基づく、職場におけるAI主導の差別を対象とした州レベルの規制。

カリフォルニア州AI透明性法(SB 942)

大規模な生成AIシステム提供事業者に対し、検出ツールの提供と、AI生成コンテンツへの潜在的および明示的な開示の組み込みを義務付ける法規制。

カスケード障害(ASI08)

1つのAIエージェントの推論におけるエラーや悪意ある入力が、接続された複数のエージェントやシステム全体にわたる障害の連鎖を引き起こす障害モード。

因果推論

AIと統計学の分野で用いられる手法であり、因果関係を特定し、介入や変数の変更が影響を及ぼすことを理解するのに役立ちます。

CEマーキング

EEA(欧州経済領域)内で販売される製品について、AIシステムが健康、安全、および環境保護に関する基準に適合していることを示す必須の認証マーク。

変更通知期間

AIモデルに対する重要な更新を本番環境に展開する前に、ベンダーが顧客へその更新を通知しなければならない契約期間。

チャットボット

AIを搭載したソフトウェアアプリケーションは、人間の会話を模擬するように設計されており、主に顧客サービスや情報収集のために使用されます。

中国における生成AI暫定措置

中国の一般向けに提供される生成AIサービスに関する規制要件。

分類

機械学習における教師あり学習技法で、モデルがトレーニングデータに基づいて新しい観測のカテゴリまたはクラスラベルを予測します。

欧州評議会AI条約

人権、民主主義、法の支配の保護に焦点を当てた、AIに関する初の法的拘束力を有する国際条約。

認知バイアス

訓練データ内に存在する場合、AIの意思決定に影響を与える可能性がある、通常や合理性からの一貫した逸脱のパターン。

コグニティブ・コンピューティング

人間の思考プロセスをコンピュータモデルで模倣し、複雑な問題を人の手を借りずに解決することを目指すAIのサブセット。

認知負荷

AIにおけるシステム設計では、ユーザーを圧倒しないようにするために、作業記憶で使用される精神的な努力の総量が考慮されます。

コロラド州AI法(SB24-205)

高リスクAIシステムの開発者および導入者に対し、注意義務基準の実施と年次の影響評価の実施を求める、米国初の包括的な州法です。

Colorado AI Act (SB 26-189)

Colorado SB 26-189 is the 2026 replacement for the original Colorado AI Act (SB 24-205), taking effect 1 January 2027 with obligations focused on automated decision-making technology making consequential decisions about Coloradans.

コンプライアンスフレームワーク

組織が規制および倫理基準を満たすAIシステムを確実にするために従うガイドラインとベストプラクティスの体系的なセット。

コンプライアンスリスク

法律、規制、または定められた慣行に従わない場合に企業が直面する法的あるいは規制上の制裁、財務上の損失、または評判の損害の可能性。

コンピュータービジョン

AIの一分野として、コンピュータに画像やビデオなどの視覚情報を解釈し処理する能力を訓練する技術です。

コンセプトドリフト

モデルが予測しようとしている対象変数の統計特性の時間経過に伴う変化は、モデルの劣化を引き起こします。

信頼区間

サンプル統計から導き出された一連の値で、未知の母集団パラメーターの値を含む可能性が高く、AIにおいて不確実性を表現するために使用されます。

適合性評価

AIシステムが指定された要件、基準、または規制を満たしているかどうかを判断するプロセスであり、多くの場合、テストおよび認証が含まれます。

内部統制(適合性評価)

EU AI Actにおいて、提供者が、自社の高リスクAIシステムがすべての規制要件を満たしていることを、第三者による監査を必要とせずに自己確認するプロセス。

継続的学習

AIシステムは、新しいデータ入力から人間の介入なしに継続的に学習し、適応し、時間とともに改善する能力を持っています。

制御性

人間がAIシステムの決定や行動を指示、影響を与える、または無効化することができる程度。

COREPER の権限

EU加盟国の大使(常駐代表委員会)が、EU法案に関する三者協議の交渉に向けて、輪番制の理事会議長国に付与する交渉権限。

交差検証

統計解析の結果が独立したデータセットにどのように一般化されるかを評価するためのモデル検証手法。

暗号学的エージェントの識別情報

AIエージェントとその権限レベルを一意に識別する、検証可能なデジタル資格情報(多くの場合、分散型識別子、DID)。

サイバーセキュリティ

システム、ネットワーク、およびプログラムをデジタル攻撃から守る実践は、脅威に対してAIシステムを保護する上で重要です。

データ

データドリフト

時間の経過に伴うモデル入力データの変化は、監視・対応しなければ、モデルの性能低下を引き起こす可能性があります。

データ倫理

個人を特定可能な情報を収集、保護、使用する際の倫理的義務に関して、データの取り扱いを評価する倫理学の一分野です。

データガバナンス

企業におけるデータの可用性、使用性、整合性、およびセキュリティの全体的な管理は、データのライフサイクル全体を通して適切に取り扱われることを保証します。

データ取り込みリスク

ユーザーとのやり取りの中で、機密情報または専有情報が AI モデルの学習データセットに永続的に取り込まれてしまう危険性。

データライフサイクル管理

データフローのライフサイクル全体にわたるポリシーに基づく管理: 作成および初期保存から、陳腐化し削除されるまでの一連の流れを包括的に管理します。

データ最小化

特定の目的に必要なデータのみを収集するという原則は、誤用や漏洩のリスクを軽減します。

データプライバシー

情報技術の側面で、どのデータが共有され、誰と共有されるかを制御する能力を扱い、個人データが適切に取り扱われることを保証します。

データ保護

重要な情報を保護し、破損、漏洩、損失を防止するとともに、データ保護法規制への準拠を確実にするプロセスです。

データの来歴

AIモデルの学習またはファインチューニングに使用されるデータセットの出自、所有権、およびライフサイクルに関する文書化された記録。

データ品質

AIモデルの効果的なパフォーマンスに不可欠であるデータの状態は、正確性、完全性、信頼性、関連性といった要因に基づいています。

データレジデンシー

組織のデータの物理的または地理的な場所は、データ保護法の遵守に影響を及ぼす可能性があります。

データ主権

データは、それが収集、保存、または処理される国家の法律およびガバナンス構造に従うという概念です。

データ主体

個人データが収集、保持、または処理される個人は、特にGDPRのようなデータ保護法の文脈で重要です。

識別情報の削除

データセットから個人識別子を削除または隠蔽し、個人の特定を困難にするプロセスであり、プライバシー保護に利用されます。

ディープラーニング

複数層のニューラルネットワークを伴う機械学習の一部であり、データの複雑なパターンをモデル化することを可能にします。

ディープフェイク

既存の画像やビデオ内の人物が、ディープラーニング技術を使用して作成された他の人物の肖像に置き換えられる合成メディア。

差分プライバシー

データセット内のグループのパターンを記述しつつ、個人に関する情報を秘匿したまま、データセットについての情報を公に共有するシステムです。

AIに関するEUデジタル・オムニバス

EU AI法および関連するデジタル安全関連法全体にわたり、技術標準、適合性評価、ならびに執行スケジュールを簡素化し、整合性を持たせることを目的とした、2025/2026年の法制パッケージ。

差別

AIにおいて、データやアルゴリズムの偏見に基づく個人またはグループに対する不公平な扱いを指し、それが不平等な結果を招くことを意味します。

分散型学習

トレーニングデータが複数のデバイスまたは場所に分散され、生のデータを共有することなく、協力してモデルをトレーニングする機械学習アプローチです。

ドメイン適応

機械学習の技術の一つであり、ある領域で訓練されたモデルが異なるが関連する領域で機能するように適応されることを指します。

デュアルユース基盤モデル

膨大なデータで学習され、高い性能を備えており、民生用途だけでなく、有害な用途や軍事目的にも利用され得るAIモデル。

動的リスク評価

AIシステムにおける新たな脅威に対して、タイムリーな対応を可能にする、リスクの継続的なリアルタイムでの識別および評価のプロセス。

E

エッジAI

データ生成の源であるエッジデバイスにAIアルゴリズムを展開し、データ処理と意思決定を可能にします。

エッジアナリティクス

データ生成のソースに近いネットワークのエッジでのデータ分析により、待ち時間と帯域幅の使用を削減します。

組み込みAI

サードパーティのソフトウェア・アズ・ア・サービス(SaaS)プラットフォームやエンタープライズ向けツールに直接統合されたAI機能、またはその機能です。

アンサンブル学習

複数のモデルを訓練して組み合わせることで同じ問題を解決し、全体的なパフォーマンスを向上させる機械学習のパラダイム。

エンティティ解決

異なるデータセット間で同じ実世界のエンティティを参照するレコードを識別し、リンクするプロセスです。

Enzai

企業向けAIガバナンスプラットフォームは、組織がAIシステムをインベントリし、評価し、管理することを可能にし、AIの採用を最大化しながらAIリスクを最小限に抑えることを保証します。

エスカレーションロジック

AIエージェントが自律動作を停止し、制御を人間のオペレーターに引き渡すよう強制する、事前定義されたルールとトリガーのセット。

ESMAのAI/MLガバナンスに関する期待事項

欧州証券市場監督局による、金融市場におけるAIおよび機械学習の利用に関する規制ガイドライン。

倫理的なAI

倫理原則と価値観に沿って設計、開発、展開されるAIシステムの慣行は、公平性、説明責任、透明性を確保します。

倫理的AI監査

AIシステムが倫理基準を順守し、害を及ぼさないことを保証するために、体系的に評価するプロセス。

倫理的AI認定

AIシステムが確立された倫理基準とガイドラインに従っていることを正式に認定すること。

倫理的なAIガバナンス

AIシステムが適切かつ倫理的に開発・使用されることを保証するためのポリシー、手順、実践のフレームワーク。

倫理的枠組み

AI システムの倫理的な開発と展開を導くために設計された原則とガイドラインの体系的なセット。

倫理的ハッキング

AIシステムの堅牢性を確保するために、意図的にシステムの脆弱性を探し出し、セキュリティ問題を特定して修正する取り組みです。

倫理的影響評価

AIシステムの導入前に、その倫理的影響および潜在的な社会的影響を特定し、対処するための体系的な評価プロセス。

倫理的リスク

AIシステムが偏見、差別、プライバシー侵害などの非倫理的な行動により、害を及ぼす可能性があるというリスク。

信頼できるAIのための倫理ガイドライン

欧州委員会のAIハイレベル専門家グループによって開発された一連の指針であり、人間の主体性、技術的堅牢性、プライバシー、透明性、多様性、社会的幸福、説明責任に重点を置き、信頼できるAIを促進することを目的としています。

EU AI 法

欧州連合内で導入または使用されるシステムに対し、リスクベースの分類体系を確立する、世界初の包括的な横断的AI法的枠組みです。

EU AI法における高リスクカテゴリー

EU AI法における高リスクAIシステムは、主に2つに分類されます。1つ目は、付属書IIIに列挙された単体システムで、生体認証、重要インフラ、雇用、教育、法執行など、その他の指定用途を対象とします。2つ目は、付属書Iに列挙された規制対象製品に組み込まれたAIで、医療機器、車両、機械、その他の規制対象製品区分を対象とします。

EU AI法におけるリスク分類

EU AI Actに基づき、AIシステムに対して4つのリスクレベル(許容不可、高、限定的、最小)のいずれかを割り当てる義務付けられたプロセスです。

EU AIオフィス

EU AI法の実施および執行を監督するために欧州委員会に設置された機関。特に、システミックリスクを伴う汎用AIモデルに対する監督を担います。

EUデジタル・オムニバス

欧州連合による2025~2026年の包括的な法規制簡素化パッケージであり、AI法、GDPRの規定、サイバーレジリエンス法、データ法の改正など、複数のデジタル規制に対応するものです。

過剰な自律性

AIシステムに、その本来の機能に対して過度な自律性、過剰なツール、または過剰な権限付きアクセスが付与されることによって生じる脆弱性。

大統領令14110号

2023年10月に署名され、2025年1月に撤回された、AIの安全性、セキュリティ、プライバシーに関する米国の国家標準を策定し、NISTに米国AI安全性研究所(U.S. AI Safety Institute)を設置した、バイデン政権の指令。

説明可能性技術

AIモデルによって行われた意思決定を解釈し理解するための手法には、LIMEやSHAP、サリエンシーマップなどがあります。

説明可能性と解釈可能性

両者ともAIの意思決定を理解しやすくすることを目指していますが、説明可能性は意思決定の理由に焦点を当てており、解釈可能性はモデルの内部メカニズムの透明性に関わっています。

説明可能なAI(XAI)

AIシステムは、その決定と行動について人間が理解できる説明を提供するように設計されており、透明性と信頼性を高めます。

説明可能な機械学習

予測や意思決定に対して明確で理解しやすい説明を提供するように設計された機械学習モデル。

エフ

公平性

AIシステムがさまざまな個人やグループに対して偏りのない公平な結果を生成し、差別的な影響を軽減することを保証します。

公平性指標

AIモデルの予測がグループ間でどれほど公正であるかを評価するために使用される定量的指標(例:人口統計の平等性、平等化されたオッズ)。

偽陰性

AIモデルが実際には正であるインスタンスに対して誤って負のクラスを予測する場合(タイプIIエラー)。

誤検出

AIモデルが実際にはネガティブなインスタンスに対して誤ってポジティブクラスを予測する場合(第一種過誤)。

フォルトトレランス

AIシステムがいくつかのコンポーネントで故障やエラーが発生した場合でも、正しく動作し続ける能力。

特徴工学

機械学習モデルの性能を向上させる特徴量として、生のデータセット属性を作成、選択、または変換すること。

機能抽出

生データ(例: テキストや画像)を、機械学習アルゴリズムへの入力に適した数値表現(特徴量)にマッピングするプロセス。

機能選択

モデルトレーニングのために最も関連性の高い特徴を特定して選択し、複雑さを軽減し精度を向上させます。

連携型AIガバナンス

中央の方針と監督を基盤としつつ、事業部門や地域拠点に意思決定を分散させ、一貫性と運用上の柔軟性を両立するガバナンスモデル。

フェデレーテッドラーニング

モデルが生データを中央で共有することなく、複数のデバイスやサーバーにあるローカルデータでトレーニングされる分散型機械学習アプローチ。

フィードバックループ

AIの出力を再び入力として取り込むことで、モデルの挙動が増幅されるプロセスです。これは、良い方向では(強化学習)、悪い方向では(バイアスの強化)として作用する可能性があります。

微調整

あらかじめ学習済みのAIモデルを特定のタスクやデータセットに適応させ、新しいデータを用いて学習を続けることで、しばしばタスク特有のパフォーマンスを向上させます。

形式的検証

AIアルゴリズムが指定された正確性の特性を遵守していることを数学的に証明することは、安全性が非常に重要なシステムでよく使用されます。

フレームワーク

AIシステムのガバナンス、開発、展開、監視を導くためのポリシー、プロセス、ツールの構造化セットです。

不正検出

AI技術(例:異常検知、パターン認識)を利用して、金融や保険などでの不正行為を特定し防止することができます。

FS AI RMF(金融サービス向けAIリスク管理フレームワーク)

2026年2月に公表された、金融サービス企業向けの米国財務省による専門的なAIリスク管理フレームワークであり、NIST AI RMFを業界固有の義務に合わせて適用したものです。

機能安全

AIシステムがあらゆる状況下で安全に運用されることを保証することは、特に自動車産業や医療分野においては、冗長性やチェックを通じて重要です。

基本的権利への影響評価(FRIA)

EU AI法に基づき、特定の導入者に対して義務付けられる評価であり、高リスクAIシステムの利用が市民の自由および人権にどのような影響を及ぼし得るかを判断するものです。

ファジー論理

二値の真偽(真/偽)ではなく、近似的な値に基づく推論を扱う論理システムであり、制御システムや不確実性への対応に有用です。

ジー

ギャップ分析

現在のAIガバナンスの実践を望ましい基準や規制と比較して、改善が必要な領域を特定するプロセスです。

一般データ保護規則 (GDPR)

EUの一般データ保護規則は、個人データの収集、処理、個人の権利に関する厳格な要件を確立しています。

一般化

AIモデルがトレーニング例を記憶するのではなく、基盤となるパターンを捉えることによって、新しい未見のデータで高い性能を発揮できる能力。

生成的AI

新しいコンテンツ(テキスト、画像、その他のメディア)を生成するAI技術(例:GAN、トランスフォーマー)であり、しばしば新たなガバナンスおよび知的財産(IP)に関する懸念を引き起こします。

グローバルモデル

複数の情報源から収集されたデータで訓練された統合AIモデルは、ローカライズされたモデルやパーソナライズされたモデルとは異なります。

目標のずれ

AIエージェントの内部サブゴールや推論プロセスが、当初人間から与えられた目的から徐々に逸脱していく現象。

ガバナンス

AIシステムの倫理的、合法的、かつ効果的な開発および展開を導く一連の方針、手続き、役割、責任。

ガバナンス機関

組織内でAIガバナンス方針とその実行を監督することを任務とする法務、倫理、技術などのクロス機能グループ。

ガバナンスフレームワーク

AIガバナンスの構成要素(リスク管理、アカウンタビリティ、監督)がどのように組み合わされて、コンプライアンスと倫理的な利用を確保するかを説明するための構造化されたモデルです。

ガバナンス成熟度モデル

組織のAIガバナンス実践の進化度を評価するための段階的枠組みであり、臨時的なものから最適化されたものまでを対象としています。

ガバナンスポリシー

企業内のAI開発および監督に関する規則、役割、手続きを成文化した正式な文書です。

ガバナンススコアカード

AIガバナンスの有効性を時間の経過とともに測定するために、重要な指標(例:偏りのある事件やコンプライアンス監査)を追跡するダッシュボードまたは報告書。

GPAI 行動規範

EU AI Actに基づき、汎用AI(GPAI)モデルの提供者に求められる、透明性、安全性試験、およびリスク軽減に関する具体的な義務を明確に定めた詳細な規制文書。

GPAIモデル

さまざまなアプリケーションに統合でき、幅広い個別タスクを実行可能な汎用人工知能モデル。

GPU(グラフィックスプロセッサ)

大規模なAIモデルを効率的にトレーニングおよび実行するために広く使用されている、並列計算専用のハードウェアアクセラレータです。

勾配降下法

損失関数を最小限に減少させる方向にモデルパラメータを反復的に調整する最適化アルゴリズム。

詳細な同意

データの使用ごとに個別に許可を与えたり拒否したりできるデータプライバシーアプローチであり、透明性とコントロールを強化します。

グリーンAI

エネルギー効率の高いアルゴリズムや持続可能なコンピューティングの実践を通じて、AIの環境への影響を削減する取り組み。

グレイボックスモデル

内部ロジックが部分的に透明であるモデル(いくつかのコンポーネントは解釈可能であり、他は不透明である)は、性能と説明可能性のバランスを取ります。

グラウンドトゥルース

AIモデルのパフォーマンスを訓練および評価するための基準として使用される、正確な現実世界のデータまたはラベルです。

ガードレール

AIシステムに組み込まれた定義済みの制約やチェック(技術的およびポリシー)は、実行時における安全でないまたはコンプライアンスに違反する行動を防ぐためのものです。

ガイドライン(倫理的AI)

責任あるAI開発と展開を形成するために発行される、IEEEやEUなどの組織による、拘束力のない推奨またはベストプラクティスの文書です。

エイチ

幻覚

生成AIがトレーニングデータに基づかないにもかかわらず、もっともらしく見える誤った情報や捏造された情報を生成する場合。

欠損データの処理

データセットの欠損を解決し、モデルの整合性と公平性を維持するための手法(例:補完、削除、モデリング)。

ハードウェアアクセラレーター

AIの計算を高速化するために設計された専門チップ(例:GPU、TPU)は、エネルギー使用とサプライチェーンに関するリスクに影響を与えます。

リスク評価

AIシステムがもたらす可能性のある負の影響(物理的、心理的、社会的)を評価し、緩和策を策定します。

調和化

AIのポリシー、標準、および規制を各管轄区で整合させ、競合を減らし、相互運用性を実現します。

統一された構造

ISOマネジメントシステム規格全体に適用される標準化されたテンプレートで、旧称は Annex SL です。用語および条項番号の一貫性を確保します。

ハッシュ化

データを固定サイズの文字列に変換するプロセスで、データの整合性チェックやプライバシーを保護しながらの記録のリンクに使用されます。

異種データ

異なる種類のデータ(テキスト、画像、センサー)や複数のドメインからのデータを組み合わせることは、統合およびガバナンスの課題を引き起こします。

ヒューリスティック

AIプロセスを迅速化するために使用される経験則または簡略化された意思決定戦略であり、しばしば最適性を効率性に交換します。

ヒューリスティック評価

AIシステムを既存のユーザビリティ原則に基づいて専門家が評価し、潜在的な問題を特定するためのユーザビリティ評価手法です。

高リスクのAIシステム

個人の健康、安全、または基本的人権を損なう重大な可能性を有し、EU AI法に基づく最も厳格なコンプライアンス要件が適用されるAIアプリケーション。

ハイステークスAI

重大な被害を引き起こす可能性があるAIアプリケーション(例えば、医療診断や自律走行車)には、厳格なガバナンスと監視が必要です。

人間を介したプロセス

AIプロセス(トレーニング、検証、意思決定のレビュー)に人間の判断を組み込むことで、正確性と説明責任を向上させます。

人間による監督

指定された個人がAIシステムの意思決定を監視し、介入し、または上書きして倫理的および法的な遵守を保証するためのメカニズム。

人権影響評価

AIシステムが基本的人権(プライバシー、表現の自由、差別の禁止)にどのように影響するかを評価し、緩和策を特定するためのプロセスです。

ハイブリッドモデル

複数の学習パラダイム(例: シンボリックとニューラル)を組み合わせて、説明性とパフォーマンスのバランスを取るAIシステム。

ハイパーパラメーター

モデルの学習前に設定され、学習の挙動や性能に影響を与える設定変数(例: 学習率、木の深さ)。

ハイパーパラメータチューニング

モデルのパフォーマンスを最大化するために、グリッド検索やベイズ最適化などを通じて最適なハイパーパラメータ値を検索するプロセス。

不均衡データ

あるクラスまたはカテゴリが他のクラスやカテゴリに比べて著しく数が多いデータセットは、適切な対策を講じない限り、AIモデルが多数派のクラスに偏る原因となる可能性があります。

不変の台帳

改ざんが検知可能な記録保持メカニズム(例:ブロックチェーン)により、データは一度書き込まれると、検知されることなく変更することはできません。これは、AIの監査証跡に有用です。

影響評価

AIシステムの導入前に、潜在的な倫理的、法的、社会的影響を特定、分析、および緩和するための体系的な評価。

実施法

欧州委員会が採択する二次法であり、一次法を実施するための統一的な条件を定め、すべての加盟国に対して法的拘束力を有します。

潜在的なバイアス

トレーニングデータやモデル設計に組み込まれた無意識または意図しないバイアスが、差別的な結果を招く可能性があります。

インセンティブの整合

AIシステムの目標が人間の価値観と組織の優先事項に一致し続けるように、報酬構造と目的を設計すること。

帰納バイアス

学習アルゴリズムが観察されたデータから未知のインスタンスへ一般化する際に使用する仮定のセット。

推論

訓練されたAIモデルが新しいデータ入力を処理し、予測や決定を下すプロセスです。

推論エンジン

AIシステムのコンポーネント(特にルールベースまたはエキスパートシステムにおいて)は、知識ベースを入力データに適用して結論を導き出す機能を持っています。

情報ガバナンス

組織のデータ資産全体にわたり、データの品質、プライバシー、利用可能性を確保するための方針、手順、および管理、これにはAIのトレーニングデータセットも含まれます。

情報プライバシー

個人がAIシステムによって収集、使用、保存、共有される個人データを管理する権利。

コードとしてのインフラストラクチャ (Infrastructure as Code, IaC)

機械可読の構成ファイルを通じてAIインフラストラクチャ(計算、ストレージ、ネットワーキング)を管理およびプロビジョニングすることで、再現性と監査性を向上させます。

継承されたデータリスク

組織が、自ら収集または精査していないデータで学習されたAIシステムを使用する際に負う、規制上および倫理上の責任。

受付ワークフロー

新しいAIシステムが、構築または調達される前に通過しなければならない、標準化されたプロセスと一連のチェックです。

インテントの検証

AIエージェントが計画した各サブアクションが、元の人間が提示した目的と一貫していることを検証するプロセス。

相互運用性

多様なAIシステムやコンポーネントが、オープンスタンダードやAPIを通じて、情報を円滑に交換し、理解し、利用する能力。

解釈可能性

AIモデルの内部メカニズムまたは意思決定の合理性を人間が理解できる程度。

侵入検知

AIインフラとアプリケーションの悪意ある活動やポリシー違反を監視し、アラートや自動応答をトリガーします。

ISO/IEC 42001

人工知能管理システム(AIMS)を構築、導入、維持し、継続的に改善するための要件を規定した国際規格。

ISO/IEC 42005

AIシステムの影響評価の実施に関するガイダンスを提供する国際規格。

ISO/IEC JTC 1/SC 42

人工知能標準化に関する国際標準化機構 (ISO) と国際電気標準会議 (IEC) の合同委員会は、ガバナンス、リスク、および相互運用性のための国際的なAI標準を開発しています。

J

ヤコビアン行列

AIの説明可能性において、モデルの出力に対する入力の全一次偏導関数の行列は、感度と特徴の重要性を評価するために使用されます。

脱獄攻撃

ユーザーが脆弱性を利用して生成AIモデルの保護手段を回避し、不安全または不正な出力を引き起こす可能性があるプロンプトインジェクションの一形態です。

日本のAI推進法

AIの推進とリスク軽減に関する基本原則を定める、2025年に制定された日本の法律。

連帯責任

複数の関係者(例えば、開発者やデプロイ者)がAI関連の損害に対して責任を共有する法的原則であり、契約およびガバナンス構造に影響を与えます。

共同モデリング

複数のタスク(例えば、音声認識と翻訳)を共同で学習するAIシステムを構築し、その複雑さと監査可能性についてのガバナンスが必要です。

判断バイアス

認知バイアスや不完全なデータによって引き起こされる人間またはAIの意思決定プロセスにおける体系的なエラーには、偏見監査と緩和が必要です。

司法審査

AIによって行われたり補助されたりする決定の合法性を評価する法的プロセスであり、アカウンタビリティと適正手続きの確保を目的としています。

管轄区域

地理によって異なるデータ、AI操作、および責任に関する法的権限は、地域規制(例:GDPR、CCPA)へのコンプライアンスに影響を与えます。

陪審オートメーション

AIを使用して陪審員の選定やケース分析を支援することは、公平性、透明性、法的監視に関する倫理的懸念を引き起こしています。

ジャスティス・メトリクス

AI意思決定における公正性と差別禁止を評価するために使用される定量的な指標(例:異なる影響、機会の均等など)。

K

重要業績評価指標

AI ガバナンスとコンプライアンスの目標を監視し報告するために使用される定量的な指標(例えば、モデルの精度の変化、バイアスの修正時間)です。

主要リスク指標

AIのリスクが顕在化する前に、それらの発生を示す先行指標(例:スコープ外予測の頻度、説明不能な意思決定の割合)。

顧客の身元確認 (KYC)

AIシステムと関わる個人または組織の身元、リスクプロファイル、および正当性を確認するためのコンプライアンスプロセス、特に規制された業界において重要です。

知識蒸留

より大きな“教師”モデルからより小さな“生徒”モデルに洞察を転送する方法であり、パフォーマンスをリソースやガバナンスの制約とバランスさせます。

ナレッジグラフ

エンティティとその関係の構造化された表現を使用して、AIの説明性、監査可能性、およびドメインオントロジーとの整合性を向上させます。

ナレッジ管理

組織の知識(例:モデル文書、監査ログ)を取得、整理、共有するための実践とツール。これにより、再現性と監督が確保されます。

L

ラベル漏れ

出力情報が訓練データラベルに不注意に含まれることで、パフォーマンス指標が水増しされ、モデルの真の一般化問題が隠されてしまうことがあります。

大規模言語モデル

膨大なテキストコーパスで訓練されたディープラーニングモデルは、テキスト生成、翻訳、要約などのタスクを実行できますが、バイアスや誤用に対するガバナンスが求められることがよくあります。

最小限の関与

AIエージェントには、特定のタスクを完了するために必要な、最小限の自律性およびツールアクセスのみを付与すべきであるとする、セキュリティとガバナンスの原則。

最小特権

AIコンポーネントとユーザーに必要最小限のアクセス権のみを付与することで、機能を果たすために必要なリスクを低減するセキュリティ原則です。

法令遵守

AIシステムがその全ライフサイクルにわたって適用される法律、規制、および業界標準に従っていることを確保する実践。

責任の枠組み

AIに関連する損害や失敗に対する責任を明確にするための体系的なアプローチであり、開発者、導入者、およびオペレーターが含まれます。

ライフサイクル管理

AIシステムの開発、展開、監視、保守、および廃止のための統合されたプロセスは、継続的なコンプライアンスとリスク管理を確保するために設計されています。

ライブネス検知

入力(バイオメトリクスなど)が偽造やリプレイではなく、生きた主体から来ていることを確認するために使用される技術であり、それによりシステムのセキュリティと整合性を向上させます。

ローカライゼーション

AIシステムを各地域の言語、規制、文化的規範、データの居住要件に適合させること。

ログ管理

AIワークフローからのシステムおよびアプリケーションログの収集、保存、分析により、監査、インシデント対応、モデルパフォーマンスの追跡を支援します。

損失関数

予測された出力と真の値との違いを定量化し、モデルのトレーニングと最適化を導く数学的関数です。

M

市場監視当局

EU加盟各国において、AIシステムがEU AI法に準拠していることを監視する責任を担う国家規制当局。

MAS FEATの原則

シンガポール金融管理局による、金融分野におけるAI活用に関する公正性・倫理・説明責任・透明性(FEAT)の原則。

意義のある人間の制御

人間がAIの意思決定プロセスを監督し、介入し、上書きする能力を保持することを保証する規制および運用の基準です。

メタデータ管理

トレーサビリティと監査をサポートするために、記述データ(例: データの起源、機能の定義、モデルのパラメータ)を記録し維持する実践。

指標とKPI

AIシステムの健全性、リスク、コンプライアンスの目標を監視するために使用される定量的指標(例:精度の変動、公平性スコア、インシデント対応時間)。

メキシコ連邦人工知能およびアルゴリズム法

AIおよびアルゴリズムに関するメキシコ連邦法案であり、リスクベースの分類制度、国家AI委員会(CONAIA)、ならびにAI生成コンテンツに対するウォーターマーキング要件を提案しています。

緩和策

特定されたAIリスクとコンプライアンスのギャップに対応するための計画的な行動(例:バイアス是正、再訓練、機能再工学)。

ミネソタ州CDPA(AIに関する規定)

ミネソタ州消費者データプライバシー法におけるAI固有の構成要素。

モデルカード

機械学習モデルの性能、制約、および想定される用途に関する重要な情報を提供する、簡潔で標準化された文書です。

モデルの抹消

不適切または違法に取得されたデータを用いて開発されたAIモデルやアルゴリズムの削除を企業に求める、規制上の是正措置。

モデルドリフト

実世界のデータや環境の変化により、AIモデルの予測性能が時間の経過とともに低下すること。

モデルの説明可能性

AIモデルの意思決定ロジックをステークホルダーや監査人に理解可能にする技術とドキュメント。

モデルガバナンス

AIモデルが組織の基準および規制要件に準拠して開発、承認、および使用されることを保証するためのポリシー、役割、および制御。

モデル監視

AIモデルのパフォーマンス、データのドリフト、運用指標を継続的に監視し、劣化や新たなリスクを検出します。

モデル再訓練

データ分布の進化に伴い、性能とコンプライアンスを維持するために、新しいデータや更新されたデータでAIモデルを更新するプロセス。

モデルリスク管理

AI/MLモデルのライフサイクル全体を通じて発生するリスクを特定し、評価し、軽減するための構造化されたプロセス。

モデル検証

AIモデルが本来の目的と性能基準を満たしていることを確認する評価活動(例:保持データに対するテストやストレスシナリオ)。

マルチステークホルダーエンゲージメント

AIガバナンスプロセスにおいて多様なグループ(法務、倫理、運用、エンドユーザーなど)を関与させ、リスクのバランスを取った監視を行い、ビジネス目標と一致させるための体制を整えます。

いいえ

自然言語処理(NLP)

機械がテキストや音声形式で人間の言語を解釈、生成、分析することを可能にする技術とツール。

ネットワークセキュリティ

AIインフラストラクチャとデータパイプラインを不正アクセスや改ざんから保護するための措置と管理(例:セグメンテーション、ファイアウォール、侵入検知)。

ニューラルアーキテクチャ検索

ニューラルネットワーク構造を設計および最適化するための自動化手法は、複雑性とリソース制約とのバランスを取りながら、モデルのパフォーマンスを向上させます。

NIST AIリスク管理フレームワーク

米国国立標準技術研究所による自発的なガイダンスであり、AIシステムのライフサイクルにおけるリスクを軽減するためのベストプラクティス概要です。

NIST AI RMF プロファイル

特定の業界、技術、またはリスク種別に合わせて最適化された、NIST AIリスクマネジメントフレームワークの文脈に応じた実装。

ノイズインジェクション

意図的にランダムな摂動をトレーニングデータやモデルパラメータに導入し、頑健性を向上させ、敵対的な操作に対して保護します。

非人間アイデンティティ(NHI)

AIエージェント、ボット、またはサービスがエンタープライズシステムに対して認証し、連携するために使用するデジタル認証情報。

認証機関

EU加盟国によって指定され、EU AI法に基づき特定の高リスクAIシステムの適合性を評価する、独立した第三者機関。

新規性検出

トレーニングデータと大きく異なる入力やシナリオを特定し、予期しない障害を防ぐためにレビューや安全モードの操作を開始するための技術。

ニューヨーク市ローカル法第144号

雇用上の意思決定に使用されるAIツールに対し、年次のバイアス監査を義務付けるニューヨーク市の法律。

Oを

可観測性

ログ、メトリクス、出力の収集と分析を通じて、AIシステムの内部状態と動作を推測し、効果的な監視とトラブルシューティングを可能にする機能。

OMB覚書 M-25-21

米国政府機関に対し、AIガバナンスおよびリスク管理要件を定める連邦指令。

継続的なモニタリング

AIシステムの性能、データドリフト、バイアス指標、セキュリティイベントを継続的に監視し、時間の経過とともに新たに発生するリスクを検出し対処します。

不透明度

AIモデルが意思決定や予測に至る過程の透明性の欠如は、信頼性と規制遵守において課題をもたらします。

運用の自律性

AIシステムが、各段階で人の介入を必要とせずに、複数ステップのタスクを遂行し、意思決定を行う能力。

業務レジリエンス

AIシステムおよびそれを支えるインフラストラクチャが予測し、耐え、回復し、そして混乱や不利な事象に適応する能力。

オーケストレーション

AIワークフローとサービス(データ取り込み、モデル学習、デプロイメント)を自動的に統合・調整し、ポリシー遵守とリソースガバナンスを確実に実現します。

異常検知

期待されるパターンから著しく逸脱するデータポイントやモデル予測を特定し、レビューまたは緩和措置を促す技術。

出力リスク

AIシステムが生成した不正確、偏った、または有害なコンテンツを使用することにより生じる、業務上、法的、ならびに評判上のリスク。

過学習

AIシステムがトレーニングデータ内のノイズや特殊性を学習してしまい、新たな未確認データに対する一般化能力が低下するモデリングの問題です。

監督

AIの開発と導入に関するレビュー、承認、そして責任の構造化されたプロセスは、通常、様々な機能を持つ統治機関を含む形で行われます。

OWASP エージェンティック Top 10

自律型AIエージェントおよびそのアプリケーション環境に特有の、最も重要な10のセキュリティリスクを体系的に分類したものです。

所有権

AI資産(データ、モデル、プロセス)に関する責任と権限を明確に割り当て、システムライフサイクル全体を通じた説明責任を確保します。

P

パラメトリック知識

AIモデルが学習プロセス中に習得し、その重みとパラメーターに保存される情報。

整備された道筋のガバナンス

承認済みの安全なワークフローを、非承認の代替手段よりも簡単に実行できるようにすることで、コンプライアンスを促進する戦略。

権限管理

AIデータと機能へのユーザーおよびシステムのアクセス権限を、最小特権の確保と不正使用の防止を実現する形で管理します。

パイロットテスト

AIシステムの本格展開に先立ち、その性能、リスク、ガバナンス制御を評価するために、限定的な範囲の試験を管理された環境で実施します。

ポリシー施行

AIの運用が組織のポリシー、規制のルール、および倫理的ガイドラインに準拠することを保証する自動または手動のメカニズム。

展開後のモニタリング

リリース後のAIシステムの動作および環境を継続的に観察し、劣化、ドリフト、またはコンプライアンス違反を検出します。

PRA SS1/23(モデル・リスク管理)

英国健全性規制機構による、銀行および保険会社向けのモデルリスク管理に関する声明。

予測保守

AIを活用した監視と分析により、コンポーネントやシステムの故障を予測し、重要な環境における運用の回復力とリスク軽減を確保します。

適合性の推定

EU AI Actおよびその他の制度における法的な仕組みであり、整合規格(例:公表されたEN規格)に適合することで、基礎となる規制要件が満たされていると反証可能な推定が成立するものです。

プライバシー・バイ・デザイン

AIシステムのアーキテクチャとプロセスにおいて、データ保護とユーザーのプライバシーに関する考慮事項を最初から組み込むアプローチです。

プライバシー影響評価

AIシステムに関連するプライバシーリスクを特定し緩和するための構造的な分析には、データの収集、使用、共有、および保持を網羅しています。

確率論的システム

出力が、決定論的で固定的なロジックではなく、統計的な確率に基づいて決定されるシステム。

プロセスオートメーション

AIおよびワークフローツールを活用して、ガバナンス、コンプライアンスチェック、リスク軽減活動を効率化し、手動の作業やエラーを削減します。

定性的評価

AIシステムの行動、意思決定、および文書について、専門家が主観的に評価することで、定量的に捉えきれない倫理的、法的、または評判に関する懸念を特定します。

品質保証

AIモデルとデータパイプラインが正確性、信頼性、倫理的遵守の定められた基準を満たすことを保証するための体系的なプロセスとチェック。

品質管理

AIの出力およびプロセスをベンチマークやテストケースに照らして継続的に検証し、欠陥、バイアス事象、またはポリシー違反を検出します。

定量的リスク評価

AI の潜在的脅威のデータ駆動型評価では、軽減策の優先順位を決定するために、可能性と影響を数値で推定します。

量子コンピューティング

量子力学を活用する新たな計算パラダイムは、セキュリティ、標準化、リスクに関するガバナンスの新しい課題を提起しています。

クエリログの記録

AIシステムの入力とユーザーの問い合わせを記録することで、監査トレイルを可能にし、誤用を検出し、アカウンタビリティをサポートします。

プライバシーに関するお問い合わせ

ユーザーのクエリ内の機密情報を保護するための技術とポリシーを策定し、記録された入力が個人情報や専有データを損なわないようにすることを保証します。

アンケートフレームワーク

設計、調達、または展開時に使用されるガバナンスに焦点を当てた質問の体系的なセットで、AIシステムがポリシー要件に適合していることを保証します。

ガバナンスボードの定足数

AIのリスク、方針承認、または監査結果に関する正式な決定を行うために必要なガバナンス委員会メンバーの最小人数。

割り当て管理

AIリソースの使用(例:API呼び出し、計算時間)に対する制御と制限は、ガバナンスポリシーを遵守し、費用の高騰や乱用を防ぐために設定されています。

R言語

推論チェーン

AIエージェントが、初期の目的から最終的なアクションまたは出力に至るまでに従う、複数ステップの論理的プロセス。

リコース

AIによって権利や利益に影響を与える決定に対して、影響を受けた個人が異議を申し立てたり救済を求めたりすることができるメカニズム。

レッドチーミング

AIシステムの脆弱性を発見するために、内部または外部の専門家が攻撃や悪用シナリオを模擬するプロアクティブなテストアプローチ。

法令遵守

AIシステムが運用中、適用される法律、規制、業界標準(例:GDPR、FDA、金融監査)を遵守することを保証します。

再現性

同じデータ、コード、および設定を使用してAIモデルの結果を一貫して再生成する能力は、透明性と監査可能性を確保します。

責任割り当てマトリックス

各ガバナンス活動における役割と責任を明確化するためのツール(例:RACI)。誰が実行責任者(Responsible)、最終責任者(Accountable)、相談先(Consulted)、および報告先(Informed)であるかを明示します。

責任あるAI

ステークホルダーと社会に対して倫理的で透明性があり、責任を持った方法でAIシステムを設計、開発、展開する実践。

リスク評価

AIシステムにおける潜在的なリスクや故障を特定し、分析し、優先順位を付けて、適切な対策を策定するプロセス。

リスク管理フレームワーク

設計から廃止まで、システムライフサイクル全体でAIリスクに体系的に対処するためのガイドラインとプロセスの構造化されたセットです。

堅牢性

AIシステムがさまざまな困難または敵対的な条件下でも信頼できるパフォーマンスを維持する能力。

根本原因分析

AIシステムの失敗または予期しない動作の根本的な原因を特定し、是正措置を導くための体系的な調査。

エス

制限付き利用規約

AIシステムの誤用を防ぐため、許可されたコンテキスト、ユーザー、目的を指定する定義されたルールと管理を実施します。

セキュリティバイデザイン

AIシステムにおけるセキュリティコントロールとベストプラクティスを、設計初期段階から統合することで、脆弱性やデータ漏洩を防止します。

シャドーエージェント

ガバナンスチームの認識や承認を得ることなく組織内に導入され、業務システムや外部の関係者に影響を及ぼす行動を実行できる、未承認の自律型AIエージェント。

シャドウAI

ITの承認を得ずに従業員がAIモデル、エージェント、またはツールを無断で使用することは、データ漏洩や不正な自律的行動を通じて隠れたセキュリティ上の脆弱性を生み出します。

シンガポールのモデルAIガバナンス・フレームワーク

シンガポールのIMDAおよびPDPCによる、責任あるAI導入のための自主的なガイダンス・フレームワークです。

韓国AI基本法

韓国におけるAI開発と信頼のための包括的な法的枠組み。

社会的影響評価

AIシステムが社会的、経済的、文化的側面に与える影響を体系的に評価し、潜在的な損害と利益を特定します。

ソフトウェア開発ライフサイクル

AIアプリケーションのエンドツーエンドプロセス(要件定義、設計、構築、テスト、デプロイ、監視)は、各段階でガバナンスとコンプライアンスのチェックを組み込んでいます。

SR 11-7(モデルリスク管理)

銀行業務におけるモデルの利用に伴うリスクを管理するための、米国連邦準備制度理事会による基礎的なガイダンス。

ステークホルダーエンゲージメント

AI 開発と監督において影響を受ける当事者(例:ユーザー、規制当局、影響を受けるコミュニティ)を関与させ、多様な視点と支持を確保するプロセス。

適用宣言書(SoA)

組織のAIマネジメントシステムに関連するISO 42001附属書Aの管理策を特定し、その他の管理策が除外された理由を説明する文書。

大幅な変更

EU AI法の下で、その適合性または意図された目的に影響を及ぼす、市場投入後のAIシステムへの変更。

監視リスク

AIシステムが個人やグループに対して侵入的な監視に利用され、プライバシーや市民の自由を侵害する可能性があります。

合成データ

実際のデータ分布を模倣する人工生成データセットは、プライバシーを保護しながらトレーニングセットを拡張するために使用されます。

公式記録システム

組織内の特定のデータ要素または情報に関する、信頼性の高い正確なデータソース。

システミックリスクの閾値

汎用AIモデルを社会に対して高いリスクをもたらすものとして分類する、技術的または能力ベースの閾値(例:10^25 FLOPs)。

T

テールリスク

AIの行動や意思決定において、通常の期待を超える稀で極端な結果が起こる可能性があり、特別な緩和計画が必要とされます。

テストと検証

AIモデルをベンチマーク、エッジケース、およびストレス条件に照らして評価し、それらが性能、安全性、コンプライアンス基準を満たすことを保証するための体系的なプロセス。

第三者リスク

外部データプロバイダー、モデルベンダー、またはサービスプラットフォームに依存することから生じるリスクは、コンプライアンスやセキュリティの脆弱性を引き起こす可能性があります。

閾値設定

AIの意思決定ルールにおいて、境界やカットオフ値(例:信頼度スコア)を設定し、偽陽性と偽陰性のようなリスクをバランスさせること。

トレーサビリティ

AIライフサイクルの各ステップ(データ収集からモデル開発、導入まで)を追跡し、文書化することで、監査およびフォレンジック対応を支援する能力。

トレーニングデータセット

AIモデルがそのタスクを実行するために学習すべき関係やパターンを教えるために使用される、ラベル付きまたはラベルなしのデータの精選されたコレクション。

転移学習

あるタスク用に開発されたモデルを関連するタスクに適用する手法であり、開発時間を短縮する一方で、継承されたバイアスの管理が求められる技法です。

透明性

AIシステムのプロセス、意思決定論理、およびデータの使用を、ステークホルダーに対して説明責任を果たすために明確で理解しやすいものにする実践。

トリローグ

欧州委員会、欧州連合理事会、欧州議会による非公式の三者協議は、EU法案について正式採択に先立って政治合意に達するために用いられていました。

信頼できるAI

倫理的で信頼性があり、安全であり、人間の価値観と社会規範に一致した方法で設計および運用されるAIシステム。

ユーザー

英国AI機会行動計画

AIのメリットを最大化しつつ、対象を絞った拘束力のある安全規則を策定するための、英国政府の戦略ロードマップ。

アンダーフィッティング

AIシステムが基礎的なデータパターンを捉えるにはあまりに単純であり、その結果、トレーニングデータおよび新しいデータの両方において性能が悪化するモデリングの問題です。

統一性

AIシステム全体にわたり、ポリシー、コントロール、基準の一貫した適用を保証し、ガバナンスの隙間や不均一なリスク管理を回避します。

教師なし学習

モデルが明示的な結果の指示なしに、ラベルのないデータ内のパターンやグループを識別する機械学習アプローチです。

稼働時間モニタリング

AIシステムの可用性とパフォーマンスを継続的に追跡し、重大な業務やコンプライアンス要件に影響を与える可能性のある障害や劣化を検出します。

ユースケースガバナンス

特定のAI使用事例の定義、承認、監視は、各事例が組織の方針、倫理基準、リスク許容度に整合することを保証するための実践です。

ユーザー同意

AIシステムで個人データを収集、処理、または使用する前に、個人から明示的な許可を取得し記録するプロセスです。

ユーティリティ

AIシステムがその目的を達成する上でどれほど価値があるか、または効果的であるかを判断する尺度であり、関連するリスクやリソースコストとバランスを取ります。

V

バリデーション

AIモデルが意図されたタスクで正確にかつ信頼性高く機能し、定義されたパフォーマンス基準を満たすことを確認するプロセスです。

ばらつき監視

AIモデルの出力やパフォーマンス指標の変動を時間経過とともに追跡し、ドリフトを検出して潜在的な劣化やリスクを推測します。

ベンダーリスク管理

AIコンポーネントやサービスのサードパーティ供給者を評価・監視し、潜在的なコンプライアンス、安全性、倫理的リスクを識別し、軽減することを目的としています。

バージョン管理

AIのコード、モデル、およびデータセットに対する変更を管理し、追跡する実践は、再現性と監査可能性を確保するためのものである。

バージョンの固定

サイレントアップデートによってシステムの動作が変化することを防ぐため、AIシステムを検証済みの特定バージョンの基盤モデルに固定する手法。

拒否権

ガバナンス機関または利害関係者が保持する正式な権利として、容認できないリスクをもたらすAIの導入を阻止または変更を要求する権限。

監視モニタリング

AIの挙動や外部信号(例:規制の更新)の継続的な監視を行い、新たに発生するリスクや非遵守事項を迅速に特定して対応します。

ビジョンAI管理

コンピュータビジョンシステムに特化したガバナンスプロセスでは、データ品質の確保、偏りのチェック、および画像/ビデオを基にした意思決定における透明性が重視されています。

脆弱性評価

AIインフラストラクチャおよびアプリケーションにおけるセキュリティの弱点を特定、分析、優先順位付けし、修正作業を導く。

ダブル

ウォッチドッグモニタリング

AIの意思決定を監視し、ポリシーや閾値が違反された際に警告や介入をトリガーする独立したランタイムチェックです。

ウォーターマーキング

画像、音声、動画、合成テキストなどの AI 生成出力に、検出可能で機械可読な由来情報マーカーを埋め込み、下流の利用者やプラットフォームがコンテンツを AI 生成であると識別できるようにする手法。

重み付け監査

モデルの重みと構造を精査し、改ざんや意図しない動作を示す可能性のある異常、バックドア、バイアスを確認します。

ホワイトボックステスト

AIシステムの内部構造(コード、パラメータ、アーキテクチャ)を完全に把握した上で、正確性、セキュリティ、コンプライアンスを検証すること。

ホワイトリスト/ブラックリストポリシー

コンプライアンスを強化し、不正使用を防止するために、許可された(ホワイトリスト)および禁止された(ブラックリスト)入力、機能、または操作を定義するガバナンスルール。

ホワイトリスト登録

未承認または悪意のある要素からのリスクを軽減するために、AIパイプラインにおいて事前承認されたデータソース、ライブラリ、またはモデルコンポーネントのみを許可します。

ワークフローオーケストレーション

AIライフサイクルのタスク(データの取り込み、トレーニング、検証、展開)を自動化およびシーケンス化して、ガバナンスポリシーを強化し、一貫性を確保します。

ワークロード分離

AIコンピュート環境(例えば、開発、テスト、本番)とデータドメインを分離し、障害やセキュリティ侵害の影響範囲を制限します。

最悪のケース分析

AIシステムの最も重大な潜在的な故障や悪用を評価し、堅牢なリスク緩和策と非常時対応計画に役立てる。

一度書き込み、多数回読み取り (WORM) ストレージ

不変ストレージにより、一度記録されたログ、監査証跡、モデルアーティファクトは改変されることがなく、否認防止および法医学的レビューをサポートします。

X

X-バリデーション

データを折りたたみに分割し、モデルの一般化を厳密に評価し、過学習を検出するためのモデル検証手法(しばしば“X-Val”と略されます)。

XAI監査

AIの説明可能性の出力が内部方針や規制要件を満たしているかどうかを評価するレビュープロセスであり、十分な透明性を確保します。

XAI(説明可能なAI)

AIモデルの意思決定プロセスを人間に対して透明で理解可能にする技術と方法であり、責任とコンプライアンスの支援を行います。

XAIフレームワーク

組織がAIシステム全体で説明可能性の実践を実装、測定、管理するために使用する、体系的なアプローチまたはガイドラインのセット。

XAI指標

AIの説明の品質と信頼性を評価するために使用される定量的または定性的な指標(例:特徴の重要度スコア、説明の忠実度)。

Y

YARAルール

既知の悪意のあるコードや改ざんを検出するために、AIパイプラインやアーティファクトをスキャンするためのシグネチャベースの検出パターンセットです。

年次コンプライアンスレビュー

AIガバナンスのプロセス、ポリシー、システムの年次評価を実施し、規制および内部基準と継続的に整合していることを確認します。

エンタープライズソフトウェア製品のマーケティングサイトに適した形式で翻訳されたコンテンツです。

ゼロデイ脆弱性

パッチや緩和策が利用可能になる前に悪用される可能性がある、AIソフトウェアまたはインフラストラクチャ内の未発見のセキュリティ欠陥。

ゼロ欠陥許容度

AI出力におけるエラーやポリシー違反を未然に防ぐことを目指したガバナンス原則であり、厳密なテスト、監視、継続的な改善サイクルによって支えられています。

ゼロショット学習

一般化された知識表現を活用することで、明示的にトレーニングされていないタスクやデータを正確に処理または分類するモデルの能力。

ゾーンベースのアクセス制御

ネットワークまたはデータガバナンスアプローチは、リソースを異なるポリシーを持つゾーンに分割し、データの機密性に応じてAIシステムのアクセスを制限します。

当社のニュースレターにご登録ください

サインアップすることにより、Enzaiのプライバシーポリシーに同意することになります

当社のニュースレターにご登録ください

サインアップすることにより、Enzaiのプライバシーポリシーに同意することになります

当社のニュースレターにご登録ください

サインアップすることにより、Enzaiのプライバシーポリシーに同意することになります

当社のニュースレターにご登録ください

サインアップすることにより、Enzaiのプライバシーポリシーに同意することになります

AI

AI

インフラストラクチャ

インフラストラクチャ

信頼を構築するために設計されています。

信頼を構築するために設計されています。

組織がAIを採用し、管理し、監視する能力を、企業レベルの信頼性で強化します。規模で運営する規制対象の組織向けに構築されています。

既存のシステム、ポリシー、AIワークフローを、すべて1つの統合プラットフォームでシームレスに接続します。

既存のシステム、ポリシー、AIワークフローを、すべて1つの統合プラットフォームでシームレスに接続します。