Faster Repeated Evasion Attacks in Tree Ensembles

要約

ツリー アンサンブルは、最も広く使用されているモデル クラスの 1 つです。
ただし、これらのモデルは、敵対的な例、つまり、予測ミスを引き起こすわずかに乱れた例の影響を受けやすいです。
このような樹木アンサンブルの例を構築するためのアプローチの設計については、重要な研究が行われてきました。
しかし、これは計算的に困難な問題であり、多くの場合、(たとえば、トレーニング セット内のすべての例に対して) 何度も解決する必要があります。
現在のアプローチがそのような例をゼロから見つけようとしているという事実によって、これはさらに悪化します。
対照的に、私たちは、複数の同様の問題が解決されているという事実を利用します。
具体的には、私たちのアプローチは、ツリー アンサンブルの敵対的な例が、一貫性はあるが比較的小規模な特徴セットを混乱させる傾向があるという洞察を活用しています。
この一連の機能を迅速に特定し、この知識を使用して敵対的な例の構築を迅速化できることを示します。

要約(オリジナル)

Tree ensembles are one of the most widely used model classes. However, these models are susceptible to adversarial examples, i.e., slightly perturbed examples that elicit a misprediction. There has been significant research on designing approaches to construct such examples for tree ensembles. But this is a computationally challenging problem that often must be solved a large number of times (e.g., for all examples in a training set). This is compounded by the fact that current approaches attempt to find such examples from scratch. In contrast, we exploit the fact that multiple similar problems are being solved. Specifically, our approach exploits the insight that adversarial examples for tree ensembles tend to perturb a consistent but relatively small set of features. We show that we can quickly identify this set of features and use this knowledge to speedup constructing adversarial examples.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google