FissionVAE: Federated Non-IID Image Generation with Latent Space and Decoder Decomposition

要約

連携学習は、分散化されたクライアントが、すべての学習データをローカルに保ちながら、共有モデルを共同で学習することを可能にする機械学習パラダイムである。連携画像生成、特にGenerative Adversarial Networks（生成逆数ネットワーク）については多くの研究が行われているが、Variational Autoencoders（変分オートエンコーダ）についてはあまり注目されていない。本稿では、非IID（独立かつ同一に分布する）データ環境の課題に取り組む。非IIDデータ分布は、一貫性のある潜在空間を維持することの難しさにつながり、また、異なるテクスチャ特徴を持つローカルジェネレータが、集約の際にブレンドされてしまう可能性がある。そこで我々は、潜在空間を切り離し、個々のクライアントグループに合わせたデコーダ分岐を構築するFissionVAEを導入する。この方法により、各グループのユニークなデータ分布に沿ったカスタマイズされた学習が可能になる。さらに、階層的VAEを組み込み、FissionVAE内で異種デコーダアーキテクチャの使用を実証する。また、デカップリングプロセスを強化するための潜在事前分布を設定する戦略も探求する。一つはMNISTとFashionMNISTを組み合わせたもので、もう一つは漫画と人間の顔、野生動物、海洋船舶、リモートセンシング画像のRGBデータセットである。我々の実験は、FissionVAEが、ベースラインの連携VAEモデルと比較して、これらのデータセットにおける生成品質を大幅に改善することを実証する。

要約(オリジナル)

Federated learning is a machine learning paradigm that enables decentralized clients to collaboratively learn a shared model while keeping all the training data local. While considerable research has focused on federated image generation, particularly Generative Adversarial Networks, Variational Autoencoders have received less attention. In this paper, we address the challenges of non-IID (independently and identically distributed) data environments featuring multiple groups of images of different types. Non-IID data distributions can lead to difficulties in maintaining a consistent latent space and can also result in local generators with disparate texture features being blended during aggregation. We thereby introduce FissionVAE that decouples the latent space and constructs decoder branches tailored to individual client groups. This method allows for customized learning that aligns with the unique data distributions of each group. Additionally, we incorporate hierarchical VAEs and demonstrate the use of heterogeneous decoder architectures within FissionVAE. We also explore strategies for setting the latent prior distributions to enhance the decoupling process. To evaluate our approach, we assemble two composite datasets: the first combines MNIST and FashionMNIST; the second comprises RGB datasets of cartoon and human faces, wild animals, marine vessels, and remote sensing images. Our experiments demonstrate that FissionVAE greatly improves generation quality on these datasets compared to baseline federated VAE models.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL