機能安全
特に自動車やヘルスケアなどの業界では、あらゆる条件下でAIシステムが安全に動作することを保証します。多くの場合、冗長性とチェックが必要です。
Definition
害を及ぼすことなくハードウェア/ソフトウェアの障害を検出、許容し、回復するためのシステムの設計が必要です。機能安全規格 (ISO 26262、IEC 61508) では、ハザード分析、フェイルセーフメカニズム、冗長性、安全要件の正式な検証、および安全ライフサイクルの文書化が義務付けられています。ガバナンスにより、開発と運用の全期間を通じて安全度レベル (SIL) が割り当てられ、維持されます。
Real-World Example
自動運転車のOEMは、冗長な認識スタック（LiDAR +レーダー+カメラ）を構築しています。各センサー・フュージョン・パイプラインは独立して稼働し、安全モニターが出力をクロスチェックします。不一致が発生すると、車両はセーフストップモードに入ります。すべての安全活動と試験はISO 26262に従って文書化され、ASIL-D認証を取得しています。
.svg)
