CollaFuse: Collaborative Diffusion Models

要約

生成人工知能の世界では、拡散ベースのモデルが合成画像を生成するための有望な方法として浮上しています。
ただし、拡散モデルの適用には、特にデータの可用性、計算要件、プライバシーに関して多くの課題が生じます。
これらの欠点に対処するためのフェデレーテッド ラーニングなどの従来のアプローチでは、個々のクライアント、特にリソースに制約のあるクライアントに大きな計算負荷を課すことがよくあります。
これらの課題に対応して、分割学習にヒントを得た分散協調拡散モデルの新しいアプローチを紹介します。
私たちのアプローチは、画像合成中のクライアントの計算負担を軽減しながら、拡散モデルの共同トレーニングを容易にします。
この計算負荷の軽減は、データと計算コストの低いプロセスを各クライアントでローカルに保持し、計算コストのかかるプロセスを共有のより効率的なサーバー リソースにアウトソーシングすることによって実現されます。
共通の CelebA データセットでの実験を通じて、私たちのアプローチは、生データを共有する必要性を減らすことでプライバシーを強化することを実証します。
これらの機能は、エッジ コンピューティング ソリューションの設計を含む、さまざまなアプリケーション分野にわたって大きな可能性を秘めています。
したがって、私たちの研究は、協調的拡散モデルの進化に貢献することで、分散型機械学習を前進させます。

要約(オリジナル)

In the landscape of generative artificial intelligence, diffusion-based models have emerged as a promising method for generating synthetic images. However, the application of diffusion models poses numerous challenges, particularly concerning data availability, computational requirements, and privacy. Traditional approaches to address these shortcomings, like federated learning, often impose significant computational burdens on individual clients, especially those with constrained resources. In response to these challenges, we introduce a novel approach for distributed collaborative diffusion models inspired by split learning. Our approach facilitates collaborative training of diffusion models while alleviating client computational burdens during image synthesis. This reduced computational burden is achieved by retaining data and computationally inexpensive processes locally at each client while outsourcing the computationally expensive processes to shared, more efficient server resources. Through experiments on the common CelebA dataset, our approach demonstrates enhanced privacy by reducing the necessity for sharing raw data. These capabilities hold significant potential across various application areas, including the design of edge computing solutions. Thus, our work advances distributed machine learning by contributing to the evolution of collaborative diffusion models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google