My Art My Choice: Adversarial Protection Against Unruly AI

要約

生成 AI が増加しており、誰もが公開されているインターフェイスを介してリアルなコンテンツを作成できるようになります。
特にガイド付き画像生成の場合、拡散モデルは高品質で低コストのコンテンツを制作することでクリエイターの経済を変えています。
並行して、アーティストたちは、彼らのアートワークが大規模な生成モデルによって利用され、配布され、擬似化されるため、手に負えない AI に対して立ち上がっています。
私たちのアプローチである My Art My Choice (MAMC) は、著作権で保護された素材が拡散モデルによって敵対的な方法で利用されないよう保護することで、コンテンツ所有者に権限を与えることを目的としています。
MAMC は、敵対的に摂動された画像の「保護された」バージョンを生成することを学習し、拡散モデルを「破壊」する可能性があります。
摂動の量は、歪みとコンテンツの保護のバランスをとるためにアーティストによって決定されます。
MAMC は、シンプルな UNet ベースのジェネレーターを使用して設計されており、ブラック ボックス拡散モデルを攻撃し、いくつかの損失を組み合わせて元のアートワークの敵対的な双子を作成します。
さまざまなユーザー制御値を使用して、さまざまな画像間タスクの 3 つのデータセットを実験します。
保護された画像と拡散出力の結果は両方とも、視覚、ノイズ、構造、ピクセル、および生成空間で評価され、当社の主張が検証されます。
MAMC は、AI が生成したコンテンツの所有権情報を完璧に、ニーズに基づいて、人間中心の方法で保存するための重要なステップであると私たちは考えています。

要約(オリジナル)

Generative AI is on the rise, enabling everyone to produce realistic content via publicly available interfaces. Especially for guided image generation, diffusion models are changing the creator economy by producing high quality low cost content. In parallel, artists are rising against unruly AI, since their artwork are leveraged, distributed, and dissimulated by large generative models. Our approach, My Art My Choice (MAMC), aims to empower content owners by protecting their copyrighted materials from being utilized by diffusion models in an adversarial fashion. MAMC learns to generate adversarially perturbed ‘protected’ versions of images which can in turn ‘break’ diffusion models. The perturbation amount is decided by the artist to balance distortion vs. protection of the content. MAMC is designed with a simple UNet-based generator, attacking black box diffusion models, combining several losses to create adversarial twins of the original artwork. We experiment on three datasets for various image-to-image tasks, with different user control values. Both protected image and diffusion output results are evaluated in visual, noise, structure, pixel, and generative spaces to validate our claims. We believe that MAMC is a crucial step for preserving ownership information for AI generated content in a flawless, based-on-need, and human-centric way.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google