最終更新日:
脆弱性やデータ漏洩を防ぐため、設計の初期段階からAIシステムにセキュリティコントロールとベストプラクティスを組み込みます。
データ取り込み、モデルのトレーニング、API設計、そしてデプロイといった、あらゆる層にセキュリティの考慮事項を組み込む予防的なアプローチです。これには、要件定義時の脅威モデリング、セキュアコーディング基準、保存中および転送中の暗号化、厳格なアクセス制御、そして継続的なセキュリティテスト（静的解析、ペネトレーションテスト）が含まれます。ガバナンスにより、セキュリティ要件は必須のプロジェクトマイルストーンとして定義され、各フェーズの移行前には承認が必要となります。
実際の導入事例：
ある医療AIチームは、すべての入力データを暗号化し、トレーニング前にモデルコードの静的セキュリティスキャンを実行し、推論APIに対して毎月ペネトレーションテストを実施することで、患者診断システムに「設計段階からのセキュリティ（セキュリティ・バイ・デザイン）」を組み込みました。これにより、本番データが公開されるはるか前に脆弱性を検出して修正することに成功しました。
