用語集
更新日
発生確率は低いものの影響度が極めて大きい事象（壊滅的なモデルの失敗、敵対的攻撃による悪用、複雑なシステムにおける予期せぬ創発的振る舞いなど）に焦点を当てます。テールリスク・ガバナンスには、極端なシナリオにおけるモデルのストレステスト、緊急時対応計画（キルスイッチ、フェイルセーフモード）の定義、および衝撃を吸収するための予備資源（財務的・運用的な備え）の維持が含まれます。また、バリュー・アット・リスク（VaR）などのリスク指標は、AI主導の意思決定コンテキストをカバーするように拡張されます。
例
自律型ドローンの検査サービスにおいて、GPSスプーフィングや異常気象といった極めて稀な障害モードをシミュレートし、システムが不安定な飛行を続けることなく安全に着陸することを確認します。同社のテールリスク計画には、潜在的な被害を最小限に抑えるための緊急着陸手順や冗長化された通信リンクが含まれています。