脆弱性評価
AI インフラストラクチャとアプリケーションのセキュリティ上の弱点を特定、分析、優先順位付けして、修復作業の指針にします。
Definition
コードベースと依存関係の自動脆弱性スキャン、APIとインフラストラクチャのペネトレーションテスト、モデルエンドポイントの敵対テスト、脅威モデリングワークショップを含む体系的なプログラム。調査結果は重大度と可能性に基づいて評価され、修復バックログに記録され、再テストによって検証されます。ガバナンスは、重大な脆弱性にパッチを適用するための評価頻度、役割 (セキュリティチーム、ML エンジニア)、および SLA を定義します。
Real-World Example
クラウドベースのレコメンデーションエンジンは、四半期ごとに脆弱性評価を受けます。コードスキャナーは古いライブラリバージョンを検出し、ペンテスターはAPIの悪用をシミュレートし、モデル敵対テストはインジェクションリスクを明らかにします。重大度の高い問題はすべて30日以内に修正され、再テストで閉鎖が確認されます。これにより、AIプラットフォームが強固なセキュリティ体制を維持していることが保証されます。