ロバストネス
さまざまな困難または敵対的な状況下でも信頼できるパフォーマンスを維持するAIシステムの能力。
Definition
入力の摂動、分布の変化、または攻撃ベクトル（敵対的な例）に耐える特性。敵対的訓練、アンサンブル法、またはロバスト最適化によって達成されます。ガバナンスには、各ユースケースの堅牢性要件を指定し、定義されたストレスシナリオでテストし、検証と監視のプロセスに堅牢性チェックを組み込んで、システムが現実世界の状況で信頼できる状態を維持できるようにする必要があります。
Real-World Example
ある自動運転車のベンダーは、自社のビジョンシステムを、シミュレートされたフォグ、グレア、敵対的パッチ攻撃にさらしています。こうした敵対的な例をトレーニングセットに取り入れ、各条件下でのパフォーマンスが高速道路の敷設前に最低限の検知率を満たさなければならないというガバナンスポリシーを実施しています。
.svg)
