侵入検知

AIインフラストラクチャとアプリケーションに悪意のあるアクティビティやポリシー違反がないか監視し、アラートや自動応答をトリガーします。

Definition

従来のサイバーセキュリティを、モデルの反転、API の悪用、異常な推論パターンなど、AI 固有の脅威にまで拡張します。ガバナンスには、ログ、ネットワークトラフィック、モデル使用状況の指標を分析する IDS/IPS システムの導入、インシデント対応プレイブックの定義、検出効果を検証するための定期的な侵入テストの実施などが含まれます。

Real-World Example

クラウドベースのMLサービスには、1つのIPからの大量の推論要求(潜在的モデル抽出)などの異常なパターンを監視するIDSが統合されています。しきい値を超えると、自動的にトラフィックを抑制し、セキュリティチームに調査を依頼します。