JPEG Compressed Images Can Bypass Protections Against AI Editing

要約

タイトル：JPEG圧縮された画像は、AI編集に対する保護を回避できる

要約：
– テキストからイメージへの拡散モデルの最近の発展により、高品質な画像の編集や作成が簡単になったことから、悪意のある編集や深度のあるフェイク作成の懸念がある。

– 無意味な擾乱は、散布モデルが現実的な画像を生成できなくすることにより、画像を悪意のある編集から保護する手段として提案されてきた。

– しかし、私たちは、前述の無意味な擾乱がJPEG圧縮に対して強いとは限らないことを発見しました。これは、JPEGの一般的な使用と可用性のために、主要な弱点を構成します。

– 多くの種類の攻撃手法が存在し、追加された無意味な擾乱だけに頼ることは危険であるため、より強固な画像保護方法が必要である。

要約(オリジナル)

Recently developed text-to-image diffusion models make it easy to edit or create high-quality images. Their ease of use has raised concerns about the potential for malicious editing or deepfake creation. Imperceptible perturbations have been proposed as a means of protecting images from malicious editing by preventing diffusion models from generating realistic images. However, we find that the aforementioned perturbations are not robust to JPEG compression, which poses a major weakness because of the common usage and availability of JPEG. We discuss the importance of robustness for additive imperceptible perturbations and encourage alternative approaches to protect images against editing.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI