Exposing the Fake: Effective Diffusion-Generated Images Detection

要約

画像合成は、ノイズ除去拡散確率モデル (DDPM) やテキストから画像への拡散モデルなどの拡散ベースの生成モデルの出現により、大幅な進歩を遂げました。
その有効性にもかかわらず、拡散によって生成された画像の検出に特化した研究は不足しており、潜在的なセキュリティとプライバシーのリスクを引き起こす可能性があります。
この論文では、拡散生成画像検出用ステップワイズ エラー (SeDID) と呼ばれる新しい検出方法を提案することで、このギャップに対処します。
SeDID は、統計ベースの $\text{SeDID}_{\text{Stat}}$ とニューラル ネットワーク ベースの $\text{SeDID}_{\text{NNs}}$ で構​​成され、拡散モデルの固有の属性を活用します。
決定論的な逆計算エラーと決定論的なノイズ除去計算エラー。
私たちの評価では、拡散モデルに適用した場合、既存の手法よりも SeDID が優れたパフォーマンスを発揮することが実証されています。
したがって、私たちの研究は拡散モデルで生成された画像の識別に極めて重要な貢献を果たし、人工知能のセキュリティの分野で重要な一歩を踏み出しました。

要約(オリジナル)

Image synthesis has seen significant advancements with the advent of diffusion-based generative models like Denoising Diffusion Probabilistic Models (DDPM) and text-to-image diffusion models. Despite their efficacy, there is a dearth of research dedicated to detecting diffusion-generated images, which could pose potential security and privacy risks. This paper addresses this gap by proposing a novel detection method called Stepwise Error for Diffusion-generated Image Detection (SeDID). Comprising statistical-based $\text{SeDID}_{\text{Stat}}$ and neural network-based $\text{SeDID}_{\text{NNs}}$, SeDID exploits the unique attributes of diffusion models, namely deterministic reverse and deterministic denoising computation errors. Our evaluations demonstrate SeDID’s superior performance over existing methods when applied to diffusion models. Thus, our work makes a pivotal contribution to distinguishing diffusion model-generated images, marking a significant step in the domain of artificial intelligence security.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google