テールリスク
AIの行動や意思決定において、通常の予想外であり、特別な緩和計画が必要な、まれで極端な結果が生じる可能性があります。
Definition
確率は低いが影響の大きいイベント（壊滅的なモデル障害、敵対的な悪用、複雑なシステムにおける新たな挙動）に焦点を当てています。テール・リスク・ガバナンスには、極端なシナリオでのストレステスト・モデル、コンティンジェンシー・プランの定義 (キルスイッチ、フェイルセーフ・モード)、ショックを吸収するための準備金 (財務、運用) の維持などが含まれます。リスク指標 (バリューアットリスクなど) は、AI 主導の意思決定コンテキストをカバーするように拡張されています。
Real-World Example
自律型ドローン検査サービスは、GPSスプーフィングや異常気象などのまれな障害モードをシミュレートし、システムが不安定な飛行を続けるのではなく、安全に着陸することを確認します。同社のテールリスク計画には、潜在的な被害を最小限に抑えるための緊急接地手順と冗長通信リンクが含まれています。
.svg)
