AIシステムがあらゆる状況下で安全に運用されることを保証することは、特に自動車産業や医療分野においては、冗長性やチェックを通じて重要です。
ハードウェア／ソフトウェアの障害が発生しても危害を生じさせることなく、検出・許容・復旧できるシステムを設計することを含みます。機能安全規格（ISO 26262、IEC 61508）では、ハザード分析、フェールセーフ機構、冗長化、安全要求事項の形式手法による検証、および安全ライフサイクルに関する文書化が求められます。ガバナンスにより、安全度水準（SIL）が割り当てられ、開発および運用の全工程を通じて維持されることが担保されます。
自動運転車のOEMは、冗長化された知覚スタック（LiDAR＋レーダー＋カメラ）を構築します。各センサーフュージョン・パイプラインは独立して実行され、安全監視機能が出力を相互照合します。差異が発生した場合、車両は安全停止モードに移行します。ASIL-D認証を取得するため、すべての安全活動および試験はISO 26262に準拠して文書化されます。
