Stealthy Backdoor Attack to Real-world Models in Android Apps

要約

ディープ・ニューラル・ネットワーク（DNN）は、その優れた性能を武器に、さまざまな領域で広く応用されている。現在、多くのディープラーニング（DL）モデルがモバイルアプリに組み込まれ、オンデバイスDLによってエンドユーザーがよりアクセスしやすくなっている。しかし、ユーザーのスマートフォンにオンデバイスDLを導入することは、同時にいくつかのセキュリティ上の脅威をもたらす。主要な脅威の1つは、バックドア攻撃である。バックドア攻撃については、数年前から広範な研究が行われており、数多くの攻撃手法が提案されています。しかし、実世界に配備されたDLモデルに対するバックドア攻撃を調査した研究はほとんどなく、有効性やステルス性において明らかな欠陥が示されています。本研究では、モバイルアプリから抽出された実世界のDLモデルに対する、より効果的でステルス性の高いバックドア攻撃を探求する。我々の主な正当性は、DNNベースのステガノグラフィによって生成される、知覚不可能でサンプル固有のバックドアトリガーが、実世界のモデルに対するバックドア攻撃の有効性を高めることができるということである。我々はまず、ステガノグラフィに基づくバックドア攻撃の有効性を4つの最新DNNモデルで確認する。続いて、攻撃のステルス性を体系的に評価・分析し、攻撃が知覚されにくいことを確認する。最後に、実世界のモデルにバックドア攻撃を実装し、我々のアプローチを3つのベースライン手法と比較する。我々は、38,387のモバイルアプリを収集し、そこから89のDLモデルを抽出し、これらのモデルを分析して、攻撃のための前提条件となるモデル情報を得る。ターゲットモデルを特定した後、本アプローチは、モデルの正常な性能をよりよく維持しながら、DeepPayloadよりも平均12.50%高い攻撃成功率を達成する。広範な実験結果は、我々の手法が、実世界のモデルに対して、より効果的で頑健かつステルスなバックドア攻撃を可能にすることを実証している。

要約(オリジナル)

Powered by their superior performance, deep neural networks (DNNs) have found widespread applications across various domains. Many deep learning (DL) models are now embedded in mobile apps, making them more accessible to end users through on-device DL. However, deploying on-device DL to users’ smartphones simultaneously introduces several security threats. One primary threat is backdoor attacks. Extensive research has explored backdoor attacks for several years and has proposed numerous attack approaches. However, few studies have investigated backdoor attacks on DL models deployed in the real world, or they have shown obvious deficiencies in effectiveness and stealthiness. In this work, we explore more effective and stealthy backdoor attacks on real-world DL models extracted from mobile apps. Our main justification is that imperceptible and sample-specific backdoor triggers generated by DNN-based steganography can enhance the efficacy of backdoor attacks on real-world models. We first confirm the effectiveness of steganography-based backdoor attacks on four state-of-the-art DNN models. Subsequently, we systematically evaluate and analyze the stealthiness of the attacks to ensure they are difficult to perceive. Finally, we implement the backdoor attacks on real-world models and compare our approach with three baseline methods. We collect 38,387 mobile apps, extract 89 DL models from them, and analyze these models to obtain the prerequisite model information for the attacks. After identifying the target models, our approach achieves an average of 12.50% higher attack success rate than DeepPayload while better maintaining the normal performance of the models. Extensive experimental results demonstrate that our method enables more effective, robust, and stealthy backdoor attacks on real-world models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL