Text Adversarial Purification as Defense against Adversarial Attacks

要約

タイトル：Text Adversarial Purification as Defense against Adversarial Attacks
要約：

– Adversarial Purificationは、受信する攻撃形態の知識を必要とせず、敵対的攻撃に対する成功した防御機構である。
– 通常、Adversarial Purificationは、敵対的摂動を取り除くことを目的とし、従って、クリーンなサンプルに基づく正しい予測を可能にする。
– Computer Vision分野でのAdversarial Purificationの成功にもかかわらず、エネルギーベースモデルや拡散モデルなどの生成モデルを取り入れたAdversarial Purificationを文書に対する敵対的攻撃に対する防御戦略として用いることはほとんど探求されていない。
– 本研究では、文書に対する敵対的攻撃に対する防御に焦点を当てた新しいAdversarial Purification方法を導入する。
– 言語モデルの助けを借りて、入力テキストをマスキングし、マスキングされた言語モデルに基づき、マスキングされたテキストを再構成することで、ノイズを注入することができる。
– このように、最も広く使用されている単語置換式敵対的攻撃に対して、テキストモデルのAdversarial Purificationプロセスを構築する。
– 我々は、TextfoolerやBERT-Attackを含むいくつかの強力な敵対的攻撃手法で、提案されたAdversarial Purification方法をテストし、実験結果は、Purificationアルゴリズムが強力な単語置換攻撃に対して成功裏に防御できることを示している。

要約(オリジナル)

Adversarial purification is a successful defense mechanism against adversarial attacks without requiring knowledge of the form of the incoming attack. Generally, adversarial purification aims to remove the adversarial perturbations therefore can make correct predictions based on the recovered clean samples. Despite the success of adversarial purification in the computer vision field that incorporates generative models such as energy-based models and diffusion models, using purification as a defense strategy against textual adversarial attacks is rarely explored. In this work, we introduce a novel adversarial purification method that focuses on defending against textual adversarial attacks. With the help of language models, we can inject noise by masking input texts and reconstructing the masked texts based on the masked language models. In this way, we construct an adversarial purification process for textual models against the most widely used word-substitution adversarial attacks. We test our proposed adversarial purification method on several strong adversarial attack methods including Textfooler and BERT-Attack and experimental results indicate that the purification algorithm can successfully defend against strong word-substitution attacks.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI