正式な検証
AIアルゴリズムが、セーフティクリティカルなシステムでよく使用される、指定された正確性特性に準拠していることを数学的に証明します。
Definition
形式的手法 (モデルチェック、定理証明) を適用して、不変量、実行時エラーなし、安全上の制約などの特性を検証します。形式的検証はリソースを大量に消費するため、重要なコンポーネント (自動車の制御システム、航空電子工学など) に最適です。ガバナンスには、正式な仕様を定義し、適切な証明ツールを選択し、コードの更新と同時に証明を維持することが必要です。
Real-World Example
ある航空宇宙企業が、自律型ドローンの衝突回避モジュールで正式な検証を行っています。安全上の不変条件（「障害物までの距離が 2 メートル以下にならないこと」）を指定し、モデルチェッカーを使用して、モデルチェッカーを使用して、すべてのモデル化された飛行条件下で飛行制御ソフトウェアがこれらの不変条件を尊重していることを証明し、認証の準備が整っていることを確認します。
.svg)
