セキュリティ・バイ・デザイン

脆弱性やデータ漏えいを防ぐために、設計の初期段階からセキュリティ管理とベストプラクティスをAIシステムに統合します。

Definition

データの取り込み、モデルトレーニング、API 設計、デプロイなど、あらゆる層にセキュリティ上の考慮事項を組み込むプロアクティブなアプローチです。これには、要件を満たす際の脅威モデリング、安全なコーディング標準、保管時と転送時の暗号化、厳格なアクセス制御、継続的なセキュリティテスト (静的分析、侵入テスト) が含まれます。ガバナンスにより、セキュリティ要件は必須のプロジェクトマイルストーンであり、各フェーズの移行前に承認を受ける必要があります。

Real-World Example

ある医療機関の AI チームは、すべてのデータ入力を暗号化し、トレーニング前にモデルコードで静的セキュリティスキャンを実行し、推論 API で毎月ペンテストを実施することで、患者診断システムに「セキュリティ・バイ・デザイン」を組み込んでいます。これにより、ライブデータが公開されるずっと前に脆弱性を検出してパッチを適用しました。