Energy-Latency Attacks to On-Device Neural Networks via Sponge Poisoning

要約

近年、モバイルデバイス向けの安価なディープラーニングアプリケーションを開発する手段として、オンデバイス型のディープラーニングが注目されています。しかし、オンデバイスモデルは、限られたエネルギーと計算リソースに制約されています。この攻撃は、推論中のエネルギー消費を増加させるために、毒を入れた例をモデルに供給するものです。これまでの研究はサーバーのハードウェアアクセラレーターに焦点を当てたものであったため、本研究ではスポンジポイズニング攻撃をオンデバイスシナリオに拡張し、モバイルデバイスのプロセッサの脆弱性を評価する。我々は、オンデバイス環境における知識ギャップを埋めるために、ストリーミングと一貫した推論シナリオをシミュレートするオンデバイススポンジポイズニング攻撃パイプラインを提示します。プロセッサとオンデバイスネットワークを用いた独自の実験分析により、スポンジポイズニング攻撃が、アクセラレータを内蔵した最新のプロセッサを効果的に汚染することができることを示します。スポンジポイズニングアルゴリズムにおけるさまざまな要因の影響を分析し、オンデバイスのディープラーニングアプリケーションでこのような攻撃を防ぐための改善された防御メカニズムの必要性を強調します。

要約(オリジナル)

In recent years, on-device deep learning has gained attention as a means of developing affordable deep learning applications for mobile devices. However, on-device models are constrained by limited energy and computation resources. In the mean time, a poisoning attack known as sponge poisoning has been developed.This attack involves feeding the model with poisoned examples to increase the energy consumption during inference. As previous work is focusing on server hardware accelerators, in this work, we extend the sponge poisoning attack to an on-device scenario to evaluate the vulnerability of mobile device processors. We present an on-device sponge poisoning attack pipeline to simulate the streaming and consistent inference scenario to bridge the knowledge gap in the on-device setting. Our exclusive experimental analysis with processors and on-device networks shows that sponge poisoning attacks can effectively pollute the modern processor with its built-in accelerator. We analyze the impact of different factors in the sponge poisoning algorithm and highlight the need for improved defense mechanisms to prevent such attacks on on-device deep learning applications.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL