How Far Are We from Real Synonym Substitution Attacks?

要約

タイトル：リアルシノニム置換攻撃まで、あとどの程度残っているのか？

要約：
– 本論文では、次の問いに取り組みます：リアルシノニム置換攻撃（SSA）まで、あとどの程度残っているのか？
– SSAsが元の文の単語をどのように置換するのかを調べることにより、現在のSSAsが無効な敵対的サンプルを生成するために未解決の障害がまだあることを示します。
– 広く使用されている4つの単語置換方法が、不文法的または元の文の意味を維持しない無効な置換語の大部分を生成することを明らかにします。
– 次に、SSAsが無効な敵対的サンプルを検出するために使用する意味と文法の制約が、無効な敵対的サンプルを検出するのに極めて不十分であることを示します。
– この研究は、将来のSSAsの構築に向けて重要な出発点となります。

要約(オリジナル)

In this paper, we explore the following question: how far are we from real synonym substitution attacks (SSAs). We approach this question by examining how SSAs replace words in the original sentence and show that there are still unresolved obstacles that make current SSAs generate invalid adversarial samples. We reveal that four widely used word substitution methods generate a large fraction of invalid substitution words that are ungrammatical or do not preserve the original sentence’s semantics. Next, we show that the semantic and grammatical constraints used in SSAs for detecting invalid word replacements are highly insufficient in detecting invalid adversarial samples. Our work is an important stepping stone to constructing better SSAs in the future.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI