Gradient-Guided Conditional Diffusion Models for Private Image Reconstruction: Analyzing Adversarial Impacts of Differential Privacy and Denoising

要約

私たちは、差分プライバシーノイズと拡散モデルのノイズ除去機能の間の敵対的な相互作用に焦点を当て、プライベート画像を再構成するための勾配ガイド付き条件付き拡散モデルの構築を研究します。
現在の勾配ベースの再構成手法は、計算の複雑さと事前知識の要件により高解像度画像の処理に苦労していますが、拡散モデルの生成プロセスへの変更を最小限に抑え、事前知識の必要性を排除する 2 つの新しい手法を提案します。
私たちのアプローチは、拡散モデルの強力な画像生成機能を利用して、少量の差分プライベート ノイズが勾配に追加されている場合でも、ランダムに生成されたノイズからプライベート画像を再構築します。
また、差分プライバシー ノイズが再構成された画像の品質に与える影響についての包括的な理論分析を実施し、ノイズの大きさ、攻撃されたモデルのアーキテクチャ、および攻撃者の再構成能力の関係を明らかにします。
さらに、広範な実験により、私たちが提案した方法の有効性と理論的発見の正確性が検証され、条件付き拡散モデルを使用したプライバシーリスク監査の新しい方向性が示唆されています。

要約(オリジナル)

We investigate the construction of gradient-guided conditional diffusion models for reconstructing private images, focusing on the adversarial interplay between differential privacy noise and the denoising capabilities of diffusion models. While current gradient-based reconstruction methods struggle with high-resolution images due to computational complexity and prior knowledge requirements, we propose two novel methods that require minimal modifications to the diffusion model’s generation process and eliminate the need for prior knowledge. Our approach leverages the strong image generation capabilities of diffusion models to reconstruct private images starting from randomly generated noise, even when a small amount of differentially private noise has been added to the gradients. We also conduct a comprehensive theoretical analysis of the impact of differential privacy noise on the quality of reconstructed images, revealing the relationship among noise magnitude, the architecture of attacked models, and the attacker’s reconstruction capability. Additionally, extensive experiments validate the effectiveness of our proposed methods and the accuracy of our theoretical findings, suggesting new directions for privacy risk auditing using conditional diffusion models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google