用語集
更新日
AIのリスクとは？
AIのリスクとは、AIシステムが害を及ぼしうるあらゆる経路を指します。害を受けうるのは、AIによる判断の対象となる人、AIを使う人、そしてAIを運用する組織です。他のリスクと同様に、害が生じる可能性と、その害がどれほど深刻かという2つの要素から成ります。ただし、AIには特有の事情があります。同じシステムでも似た入力に異なる回答を返すことがあり、モデルが更新されれば挙動が変わることがあり、誰も想定していなかった用途に使われることもあります。
主な種類は？
AIのリスクの多くは、いくつかのグループに分けられます。パフォーマンスリスクは誤った出力のことで、もっともらしく捏造された内容も含まれます。こうした捏造はしばしばハルシネーションと呼ばれます。公平性リスクは、保護対象となる属性を理由に人が不利益を受ける結果のことで、AIバイアスとも呼ばれます。プライバシーリスクは、学習データ、プロンプト、出力を通じて個人データや機密データが漏えいすることです。セキュリティリスクには、プロンプトインジェクション、データポイズニング、ジェイルブレイクなどの攻撃が含まれます。
サードパーティリスクは、ベンダーが通知なしにモデル、契約条件、機能を変更することです。法的リスクは、EU AI Actが禁止する行為のように、法律に違反する用途です。AIエージェントの場合は、アクションリスクもあります。与えられたアクセス権限を使って、エージェントが本来意図されていない行動をとることです。OWASP Top 10 for Agentic Applicationsは、そうした事態が起こる代表的な経路を挙げています。また、NISTの生成AIプロファイルは、コンファビュレーション（作話）やデータプライバシーから、情報セキュリティや知的財産まで、生成AIに関する12のリスクカテゴリーを示しています。
AIのリスクの測り方は？
多くの組織は、各リスクを発生可能性と影響度の尺度（それぞれ5段階が一般的）で評価し、1つの評価にまとめます。評価は2回行います。コントロールを講じる前の固有リスクと、講じた後の残留リスクです。その差が、コントロールの効果を示します。エラー率や属性グループ間の承認率の差のように、直接測定できるリスクもあり、そうした数値は主要リスク指標として継続的に追跡できます。
AIのリスクとリスク区分は同じ？
いいえ。EU AI Actなどの法律は、AIの用途を、禁止、高リスク、透明性義務のみ、最小リスクといった区分に分類します。区分は用途の法的な分類であり、どの義務が適用されるかを決めるものです。一方、AIのリスクは、特定のシステムが特定の状況で害を及ぼす可能性です。同法で最小リスクとされるシステムでも、機密データを漏えいさせる社内ツールのように、深刻な事業上のリスクを伴うことがあります。反対に、高リスクのシステムでも十分に管理されている場合があります。両方の視点が必要です。リスク区分についてはEU AI Actリスク分類ガイドで解説しています。
これらのリスクをプログラムとして管理する方法は、AIリスク管理で解説しています。Enzaiでは、各リスクを対象のAIシステムに紐づけ、チーム間で共有する1つのリスク台帳で、対応前と対応後のスコアを管理します。詳しくはAIリスクとコンプライアンスをご覧ください。
例
ある小売企業はカスタマーサービスにサードパーティのチャットボットを使っており、レビューで3つのリスクを評価しています。1つ目は、チャットボットが同社にはない返金ポリシーを作り出してしまうリスクで、発生可能性は高く、影響度は中程度です。2つ目は、顧客がチャットボットをだまして別の顧客の注文情報を引き出すリスクで、発生可能性は低いものの、影響度は高くなります。3つ目は、ベンダーが予告なく新しいモデルに切り替えるリスクで、発生可能性は高く、影響度は中程度です。同社は、チャットボットが参照する情報を公開済みのポリシーページに限定し、ログイン中の顧客本人の注文だけを閲覧できるようにしたうえで、モデル変更の事前通知を義務付ける契約条項を追加します。その後、残留リスクを再評価し、四半期ごとに見直しています。