AI ガバナンス用語集。

AIインフラストラクチャとデータパイプラインを不正アクセスや改ざんから保護するための対策と制御（セグメンテーション、ファイアウォール、侵入検知など）。

学習データまたはモデルパラメータにランダムな摂動を意図的に導入して、堅牢性を高め、敵対的な操作を防ぎます。

トレーニングデータと大幅に異なる入力またはシナリオを特定し、レビューまたはセーフモード操作をトリガーして予期しない障害を防止する技法。

障害が重大な損害を引き起こすおそれのあるAIアプリケーション（医療診断、自動運転車など）。ガバナンスと監視の強化が必要です。

モデルのパフォーマンスを最大化するために最適なハイパーパラメータ値を検索するプロセス (グリッド検索、ベイズ最適化など)。

モデルトレーニングの前に設定される構成変数 (学習率、ツリーの深さなど) は、学習行動とパフォーマンスに影響します。

説明可能性とパフォーマンスのバランスをとるために、複数の学習パラダイム（シンボリックとニューラルなど）を組み合わせたAIシステム。

データを固定サイズの文字列に変換するプロセス。データの整合性チェックとプライバシー保護レコードのリンクに使用されます。

AI計算を高速化するように設計された特殊チップ（GPU、TPUなど）は、エネルギー使用とサプライチェーンのリスクに影響します。

管轄区域全体でAIに関するポリシー、基準、規制を調整して、対立を減らし、相互運用性を実現します。

偏見のあるトレーニングデータや欠陥のあるアルゴリズムに起因するAI出力の系統的エラーは、不公平な結果につながります。

AIシステムがトレーニングデータに存在する既存のバイアスを悪化させ、結果にますます偏りが生じる現象。

AIモデルのアウトプットと意思決定プロセスを分析することにより、AIモデルのバイアスを特定するプロセス。

AIシステムの偏りを検出して軽減し、公平性と倫理基準の遵守を確保するための評価プロセス。

モデルやデータセットのバイアスを軽減または排除するためにAI開発中に適用される手法。

ニューラルネットワークで使用されるトレーニングアルゴリズムで、誤差を出力層から逆方向に伝播して損失を最小限に抑えることで重みを調整します。

インクリメンタル学習とは対照的に、データセット全体でモデルを一度にトレーニングする機械学習アプローチです。

再現性と監査可能性を確保するために、AI コード、モデル、データセットへの変更を長期にわたって管理および追跡する慣行。

統制された環境で AI システムを対象範囲を限定して試験し、本格的に導入する前に、パフォーマンス、リスク、ガバナンス統制を評価します。

AIデータおよび機能へのユーザーとシステムのアクセス権を管理し、権限を最小限に抑え、不正使用を防止します。

指定された個人がAIシステムの決定を監視、介入、または無効にして、倫理的および法的遵守を確保できるようにするメカニズム。

正確性と説明責任を向上させるために、AIプロセス（トレーニング、検証、意思決定レビュー）に人間の判断を取り入れます。

AIプロセスをスピードアップするために用いられる、経験則または簡略化された意思決定戦略。多くの場合、最適化と効率が優先されます。

専門家が確立されたユーザビリティ原則に照らしてAIシステムを判断し、潜在的な問題を特定するユーザビリティ検査方法です。

コンピュータビジョンシステム固有のガバナンスプロセスにより、画像/動画ベースの意思決定におけるデータ品質、バイアスチェック、透明性を確保します。

2進数の真/偽値ではなく、近似値を使用して推論を処理する論理システム。制御システムや不確実性の処理に役立ちます。

AI 出力が入力としてフィードバックされるプロセスです。これにより、モデルの動作が改善されるか (強化学習)、悪くなるか (バイアス強化) に増幅されます。

未加工データを一元的に共有することなく、ローカルデータを保持する複数のデバイスまたはサーバーでモデルをトレーニングする分散型MLアプローチ。

AI モデルが、実際にはネガティブであるインスタンスに対してポジティブクラスを誤って予測した場合（タイプ I エラー）。

一部のコンポーネントに障害が発生したりエラーが発生したりした場合でも、AI システムが正常に動作し続ける能力。

AI システムのガバナンス、開発、導入、監視の指針となる、構造化されたポリシー、プロセス、ツールのセットです。

内部の仕組みが透明でも解釈可能でもなく、意思決定がどのように行われるかを理解するのが難しいAIシステム。

データ保護とユーザーのプライバシーに関する考慮事項を最初からAIシステムのアーキテクチャとプロセスに組み込むアプローチ。

データの収集、使用、共有、保持を対象とした、AIシステムに関連するプライバシーリスクを特定して軽減するための構造化された分析。

AIとワークフローツールを使用して、ガバナンス、コンプライアンスチェック、リスク軽減活動を合理化し、手作業とミスを削減します。

潜在的なコンプライアンス、セキュリティ、または倫理的リスクを特定して軽減するために、AIコンポーネントまたはサービスの第三者サプライヤーを評価および監視する。

AIシステムのパフォーマンスを標準指標や他のシステムと比較して有効性を評価するプロセス。

内部動作（コード、パラメーター、アーキテクチャ）に関する十分な知識に基づいてAIシステムを評価し、正確性、セキュリティ、およびコンプライアンスを検証します。

検証されていない要素や悪意のある要素によるリスクを軽減するために、AI パイプラインでは事前に承認されたデータソース、ライブラリ、またはモデルコンポーネントのみを許可します。

コンプライアンスを実施し、悪用を防止するために、許可（ホワイトリスト）および禁止（ブラックリスト）の入力、機能、または操作を定義するガバナンスルール。

自動化されたタスクを実行するソフトウェアアプリケーションで、AI ではカスタマーサービスやデータ収集などのタスクによく使用されます。

AI運用が組織のポリシー、規制規則、倫理ガイドラインに準拠していることを保証する自動または手動のメカニズム。

さまざまなグループ（法律、倫理、運用、エンドユーザーなど）をAIガバナンスプロセスに参加させ、バランスの取れたリスク監視とビジネス目標との整合性を確保します。

トレーサビリティと監査をサポートするために、記述データ（データの出所、機能の定義、モデルパラメータなど）を収集して維持する手法。

AIモデルの意思決定ロジックを利害関係者や監査人が理解できるようにするための手法と文書。

AI モデルが組織の基準や規制要件に沿って開発、承認、使用されることを保証するポリシー、役割、統制です。

AI モデルのパフォーマンス、データドリフト、運用指標を継続的に追跡して、劣化や新たなリスクを検出します。

ライフサイクル全体を通じてAI/MLモデルから生じるリスクを特定、評価、軽減するための構造化されたプロセス。

データ配信の進化に合わせてパフォーマンスとコンプライアンスを維持するために、新しいデータまたは更新されたデータで AI モデルを更新するプロセス。

AIモデルがその意図された目的とパフォーマンス基準を満たしていることを確認する評価活動（ホールドアウトデータに対するテスト、ストレスシナリオなど）。

AIによる説明可能性では、モデルのすべての出力とその入力値の一次偏導関数の行列を、感度と特徴量の重要性を評価するために使用されます。

AIパイプラインやアーティファクトをスキャンして、既知の悪質なコードや改ざんがないか調べるために使用されるシグネチャベースの検出パターンのセットです。

ガバナンスのギャップや不均一なリスク管理を回避するために、すべてのAIシステムにポリシー、統制、標準を一貫して適用するようにします。

AIシステムで個人データを収集、処理、または使用する前に、個人から明示的な許可を得て記録するプロセス。

特定のAIユースケースを定義、承認、監視して、それぞれが組織のポリシー、倫理基準、リスクアペタイトに沿っていることを確認する手法。

意図した目標を達成するうえで AI システムがどれほど価値があるか、または効果的であるかを示す指標で、関連するリスクやリソースコストとのバランスを考慮したもの。

継続的なコンプライアンスとリスク管理を確実にするために、AIシステムの開発、導入、監視、保守、廃止のための調整されたプロセス。

入力（生体認証など）がなりすましや再生ではなく、実際の被写体からのものであることを検証するために使用される手法により、システムのセキュリティと整合性が強化されます。

意図せず出力情報をトレーニングデータラベルに含めてしまうと、パフォーマンスメトリクスが膨らみ、モデルの一般化に関する真の問題が隠されてしまう可能性があります。

適切な緩和戦略を決定するために、AIシステムにおける潜在的な危害や障害を特定、分析、優先順位付けするプロセス。

設計から廃棄までのシステムライフサイクル全体にわたって AI リスクに体系的に対処するための体系的なガイドラインとプロセスのセットです。

AIシステムがライフサイクル全体を通じて適用法、規制、業界標準に準拠することを保証する慣行。

社内外の専門家が攻撃や悪用のシナリオをシミュレートしてAIシステムの脆弱性を明らかにするプロアクティブなテストアプローチです。

監査、インシデント対応、モデルパフォーマンスの追跡をサポートするために、AIワークフローからシステムログとアプリケーションログを収集、保存、分析します。

さまざまな困難または敵対的な状況下でも信頼できるパフォーマンスを維持するAIシステムの能力。

さまざまな法域における現地の言語、規制、文化的規範、データレジデンシー要件にAIシステムを適応させます。

AIライフサイクルタスク（データの取り込み、トレーニング、検証、導入）を自動化および順序付けして、ガバナンスポリシーを実施し、一貫性を確保します。

AI コンピューティング環境 (開発、テスト、運用など) とデータドメインを分離して、障害やセキュリティ侵害の被害範囲を制限します。

AIシステムの最も深刻な潜在的な障害や悪用を評価して、強固なリスク軽減策と緊急時対応計画に役立てる。

あるクラスまたはカテゴリが他のクラスまたはカテゴリを大幅に上回っているデータセットは、緩和されない限り、AI モデルがマジョリティクラスに偏る可能性があります。

AIモデルがどのように意思決定や予測にたどり着くのかが透明性に欠けていると、信頼と規制遵守に課題が生じます。

（GDPRなど）539537第六集・第一、持、または個個人。

新たなAIリスクが顕在化する前にそれを知らせる主要な指標（範囲外の予測の頻度、説明のつかない決定の割合など）。

AIガバナンスとコンプライアンス目標の監視と報告に使用される定量化可能な指標（モデルの精度ドリフト、バイアス修正時間など）。

AI主導の監視と分析により、コンポーネントまたはシステムの障害を予測し、重要な環境における運用の回復力とリスク軽減を保証します。

学習、推論、自己修正を含む、機械、特にコンピューターシステムによる人間の知能プロセスのシミュレーション。

AI技術の開発と展開に関連する道徳的含意と責任に関係する分野。

倫理基準、規制、およびパフォーマンス指標への準拠を評価するためのAIシステムの体系的な評価。

AIシステムが基本的権利（プライバシー、表現、無差別）にどのように影響するかを評価し、緩和策を特定するプロセス。

モデルの重みや構造を調べて、改ざんや意図しない動作を示す可能性のある異常、バックドア、偏りがないかを調べます。

AIインフラストラクチャとアプリケーションに悪意のあるアクティビティやポリシー違反がないか監視し、アラートや自動応答をトリガーします。

AIシステムは、倫理的で信頼性が高く、安全で、人間の価値観や社会規範に沿った方法で設計および運用されています。

欧州委員会のAIに関するハイレベル専門家グループが信頼できるAIを促進するために策定した一連のガイドラインで、ヒューマンエージェンシー、技術的堅牢性、プライバシー、透明性、多様性、社会的福祉、説明責任に焦点を当てています。

サンプル統計から導き出された、未知の母集団パラメーターの値を含む可能性が高い値の範囲で、AI では不確実性を表現するために使用されます。

AIシステムが責任を持って倫理的に開発され、使用されることを保証するポリシー、手順、および慣行の枠組み。

AIシステムを体系的に評価して、倫理基準に準拠し、害を及ぼさないことを確認するプロセス。

AI システムが確立された倫理基準とガイドラインに準拠していることを正式に認めること。

偏見、差別、プライバシーの侵害など、非倫理的な行動により AI システムが害を及ぼす可能性。

導入前にAIシステムの倫理的影響と潜在的な社会的影響を特定して対処するための体系的な評価プロセス。

AI システムの倫理的な開発と導入を導くように設計された、構造化された一連の原則とガイドライン。

AI モデルが、実際にはポジティブであるインスタンスに対してネガティブクラスを誤って予測した場合（タイプ II エラー）。

AIシステムがさまざまな個人やグループにわたって偏りのない公平な結果を生み出すことを保証し、差別的な影響を軽減します。

AIモデルの予測がグループ全体でどの程度公平であるかを評価するために使用される定量的指標（人口統計学的同等性、均等化オッズなど）。

契約やガバナンス構造に影響を与えるAI関連の損害について、複数の当事者（開発者、導入者など）が責任を分担する法的原則

同じデータ、コード、構成を使用してAIモデルの結果を一貫して再生できるため、透明性と監査可能性が確保されます。

トレーニングデータを複数のデバイスまたは場所に分散させ、生データを共有せずにモデルを共同でトレーニングする機械学習アプローチです。

人間やAIの意思決定プロセスにおけるシステムエラーは、コグニティブ・ショートカットや欠陥のあるデータによって引き起こされ、バイアスの監査と軽減が必要である。

人間がAIシステムの意思決定や行動をどの程度指示、影響、または無効にできるか。

AIシステムの潜在的な悪影響（物理的、心理的、社会的）を評価し、緩和戦略を定義します。

裁判所がAIによって下された、または支援された決定の合法性を評価し、説明責任と適正手続きを確保するための法的手続き。