最終更新日:
通常の予測範囲を超え、特別な緩和策の策定を必要とする、AIの挙動や意思決定において極稀に発生する重大な想定外の事象（テールリスク）の可能性。
発生確率は低いものの影響度が極めて大きい事象（壊滅的なモデルの失敗、敵対的攻撃による悪用、複雑なシステムにおける予期せぬ創発的振る舞いなど）に焦点を当てます。テールリスク・ガバナンスには、極端なシナリオにおけるモデルのストレステスト、緊急時対応計画（キルスイッチ、フェイルセーフモード）の定義、および衝撃を吸収するための予備資源（財務的・運用的な備え）の維持が含まれます。また、バリュー・アット・リスク（VaR）などのリスク指標は、AI主導の意思決定コンテキストをカバーするように拡張されます。
実際の導入事例：
自律型ドローンの検査サービスにおいて、GPSスプーフィングや異常気象といった極めて稀な障害モードをシミュレートし、システムが不安定な飛行を続けることなく安全に着陸することを確認します。同社のテールリスク計画には、潜在的な被害を最小限に抑えるための緊急着陸手順や冗長化された通信リンクが含まれています。
