Translate your gibberish: black-box adversarial attack on machine translation systems

要約

ニューラル ネットワークは、産業規模の自然言語処理タスクに広く展開されており、おそらく最も頻繁に自動機械翻訳システムの複合体として使用されています。
この作業では、ロシア語から英語、またはその逆の翻訳タスクで最先端の機械翻訳ツールを欺くための簡単なアプローチを紹介します。
新しいブラックボックスの勾配のないテンソルベースのオプティマイザーを使用して、Google、DeepL、Yandex などの多くのオンライン翻訳ツールが、無意味な敵対的入力クエリに対して間違ったまたは不快な翻訳を生成し、一見無害な入力の翻訳を拒否する可能性があることを示します
フレーズ。
この脆弱性は、新しい言語の理解を妨げ、機械翻訳システムを使用する際のユーザー エクスペリエンスを単純に悪化させる可能性があるため、より良い翻訳を確立するには、これらのツールをさらに改善する必要があります。

要約(オリジナル)

Neural networks are deployed widely in natural language processing tasks on the industrial scale, and perhaps the most often they are used as compounds of automatic machine translation systems. In this work, we present a simple approach to fool state-of-the-art machine translation tools in the task of translation from Russian to English and vice versa. Using a novel black-box gradient-free tensor-based optimizer, we show that many online translation tools, such as Google, DeepL, and Yandex, may both produce wrong or offensive translations for nonsensical adversarial input queries and refuse to translate seemingly benign input phrases. This vulnerability may interfere with understanding a new language and simply worsen the user’s experience while using machine translation systems, and, hence, additional improvements of these tools are required to establish better translation.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google