A Closer Look at GAN Priors: Exploiting Intermediate Features for Enhanced Model Inversion Attacks

要約

モデル反転 (MI) 攻撃は、出力情報を利用してリリースされたモデルからプライバシーに配慮したトレーニング データを再構築することを目的としており、ディープ ニューラル ネットワーク (DNN) のセキュリティについて大きな懸念を引き起こしています。
敵対的生成ネットワーク (GAN) の最近の進歩は、忠実度の高いリアルな画像と適切なセマンティクスを生成する強力な機能により、MI 攻撃のパフォーマンスの向上に大きく貢献しています。
ただし、これまでの MI 攻撃では、GAN プライアの潜在空間にある個人情報のみが開示され、複数のターゲット モデルやデータセット間でのセマンティック抽出と転送可能性が制限されていました。
この課題に対処するために、私たちは、GAN 構造を逆アセンブルし、中間ブロック間の機能を利用する新しい方法である中間機能拡張生成モデル反転 (IF-GMI) を提案します。
これにより、潜在コードから強化された表現力を備えた中間機能まで最適化空間を拡張することができます。
GAN 事前分布が非現実的な画像を生成するのを防ぐために、最適化プロセスに L1 ボール制約を適用します。
複数のベンチマークでの実験により、私たちの方法が以前のアプローチを大幅に上回り、さまざまな設定、特に配布外 (OOD) シナリオで最先端の結果を達成できることが実証されました。
コードは https://github.com/final-solution/IF-GMI から入手できます。

要約(オリジナル)

Model Inversion (MI) attacks aim to reconstruct privacy-sensitive training data from released models by utilizing output information, raising extensive concerns about the security of Deep Neural Networks (DNNs). Recent advances in generative adversarial networks (GANs) have contributed significantly to the improved performance of MI attacks due to their powerful ability to generate realistic images with high fidelity and appropriate semantics. However, previous MI attacks have solely disclosed private information in the latent space of GAN priors, limiting their semantic extraction and transferability across multiple target models and datasets. To address this challenge, we propose a novel method, Intermediate Features enhanced Generative Model Inversion (IF-GMI), which disassembles the GAN structure and exploits features between intermediate blocks. This allows us to extend the optimization space from latent code to intermediate features with enhanced expressive capabilities. To prevent GAN priors from generating unrealistic images, we apply a L1 ball constraint to the optimization process. Experiments on multiple benchmarks demonstrate that our method significantly outperforms previous approaches and achieves state-of-the-art results under various settings, especially in the out-of-distribution (OOD) scenario. Our code is available at: https://github.com/final-solution/IF-GMI

arxiv情報

提供元, 利用サービス

arxiv.jp, Google