敵対的攻撃

AIモデルの意思決定の境界にある脆弱性を悪用する、入力データ（画像、テキスト、音声）への意図的な（多くの場合気付かれない）変更です。このような攻撃は、ブラックボックスシステムの弱点を浮き彫りにし、敵対的訓練（訓練中に細工された例を注入する）、入力サニタイズレイヤー、継続的な「レッドチーム」侵入テストなどの積極的な防御の必要性を高めます。