最終更新日:
自動車や医療などの業界において、冗長化や検証プロセスを通じて、あらゆる条件下でAIシステムが安全に動作することを保証します。
これには、ハードウェアまたはソフトウェアの障害による危害を発生させることなく、これらを検出、許容、および回復するためのシステム設計が含まれます。機能安全規格（ISO 26262、IEC 61508）では、危険源解析、フェイルセーフ機構、冗長性、安全要件のフォーマル検証、および安全ライフサイクル文書が義務付けられています。ガバナンスにより、開発および運用の全期間を通じて、安全度水準（SIL）が割り当てられ、維持されることが保証されます。
実際の導入事例：
自動運転車のOEMが、冗長性を持たせた認識スタック（LiDAR ＋ レーダー ＋ カメラ）を構築しています。各センサフュージョンのパイプラインは独立して動作し、セーフティモニターがその出力をクロスチェックします。不一致が発生した場合、車両は安全停止モードに移行します。ASIL-D認証を取得するため、すべての安全活動およびテストはISO 26262に準拠して文書化されています。
