Beyond the Model: Data Pre-processing Attack to Deep Learning Models in Android Apps

要約

タイトル：モデルを超える：Androidアプリにおける深層学習モデルへのデータ前処理攻撃

要約：

– 近年、低レイテンシーやスマートフォンにおける帯域幅の節約など、計算能力の向上がスマートフォンでの「DLアプリ」として知られるインテリジェントなモバイルアプリの登場につながっている。
– しかしながら、この技術的な発展は、敵対的な例、モデルの盗用、データ汚染など、数多くのセキュリティ上の懸念をもたらしている。
– 携帯端末におけるDLモデルに対する攻撃と対処方法に関する既存の研究は、主にモデル自体に焦点が当てられてきた。しかしながら、データ処理の混乱がモデル推論に与える影響については、ほとんど注目されていない。
– この知識の格差は、携帯端末モデルのセキュリティ上の問題を十分に理解し対処するために、さらなる研究の必要性を示している。
– 本論文では、リアルなDLアプリに対するデータ前処理ベースの攻撃を紹介する。
– 特に、我々の攻撃は、DLアプリの動作に影響を与えることなく、モデルの性能とレイテンシーに影響を与えることができる。
– 経験的な研究を行い、Google Playから収集した517の実世界のDLアプリに対して攻撃の効果を示す。MLkitを利用する320のアプリケーションのうち、81.56％が攻撃される可能性があることが判明した。
– その結果は、DLアプリの開発者がデータ処理の観点から携帯端末モデルを保護することに関して意識し、行動を起こすことの重要性を強調している。

要約(オリジナル)

The increasing popularity of deep learning (DL) models and the advantages of computing, including low latency and bandwidth savings on smartphones, have led to the emergence of intelligent mobile applications, also known as DL apps, in recent years. However, this technological development has also given rise to several security concerns, including adversarial examples, model stealing, and data poisoning issues. Existing works on attacks and countermeasures for on-device DL models have primarily focused on the models themselves. However, scant attention has been paid to the impact of data processing disturbance on the model inference. This knowledge disparity highlights the need for additional research to fully comprehend and address security issues related to data processing for on-device models. In this paper, we introduce a data processing-based attacks against real-world DL apps. In particular, our attack could influence the performance and latency of the model without affecting the operation of a DL app. To demonstrate the effectiveness of our attack, we carry out an empirical study on 517 real-world DL apps collected from Google Play. Among 320 apps utilizing MLkit, we find that 81.56\% of them can be successfully attacked. The results emphasize the importance of DL app developers being aware of and taking actions to secure on-device models from the perspective of data processing.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI