脱獄攻撃

プロンプトフィルターやコンテンツポリシーチェックのギャップを悪用し、モデルを騙してガードレールを無視させる悪意を持って作成されたインプット。脱獄攻撃により、禁止されているコンテンツが公開されたり、プライベートなトレーニングデータが漏洩したり、不正な操作が可能になったりする可能性があります。効果的な防御策は、堅牢な入力サニタイズ、継続的な敵対テスト、動的なガードレール、モデルにコード化された明示的な拒否行動を組み合わせたものです。