AIの行動や意思決定において、通常の期待を超える稀で極端な結果が起こる可能性があり、特別な緩和計画が必要とされます。
発生確率は低いものの影響が極めて大きい事象――壊滅的なモデル障害、敵対的攻撃による悪用、あるいは複雑なシステムにおける創発的挙動――に焦点を当てます。テールリスク・ガバナンスには、極端なシナリオに基づくモデルのストレステスト、緊急時対応計画（キルスイッチ、フェイルセーフモード）の策定、ならびに衝撃を吸収するための準備金（財務面・運用面）の維持が含まれます。リスク指標（例：Value at Risk）も、AI主導の意思決定コンテキストを対象に拡張されます。
自律型ドローン点検サービスは、GPSスプーフィングや極端な気象条件といった稀な故障モードをシミュレーションし、システムが不安定な飛行を継続するのではなく安全に着陸することを検証します。さらに、同社のテールリスク対策計画には、潜在的な被害を最小化するための緊急着陸手順および冗長化された通信リンクが含まれています。
