Learning End-to-End Channel Coding with Diffusion Models

要約

深層学習ベースのエンドツーエンド (E2E) チャネル コーディング システムが、学習プロセスと勾配降下法最適化手法に基づいているため、既知の微分可能なチャネル モデルに依存することは既知の問題です。
これにより、現実世界のシナリオでパイロット シグナリングによって生成されたサンプルからチャネルまたはその導関数を近似または生成するという課題が生じます。
現在、この問題を解決するには 2 つの方法が一般的です。
1 つは敵対的生成ネットワーク (GAN) を介してチャネルを生成することであり、もう 1 つは本質的に強化学習手法を介して勾配を近似することです。
他の方法には、スコアベースの方法、変分オートエンコーダー、または相互情報量ベースの方法の使用が含まれます。
この論文では、生成モデル、特に、画像ベースのタスクにおける生成の品質がより高いことが示されている拡散モデルと呼ばれる新しい有望な方法に焦点を当てます。
拡散モデルがワイヤレス E2E シナリオで使用できること、および拡散モデルが Wasserstein GAN と同等に機能すると同時に、より安定したトレーニング手順とテストでのより優れた汎化能力を備えていることを示します。

要約(オリジナル)

It is a known problem that deep-learning-based end-to-end (E2E) channel coding systems depend on a known and differentiable channel model, due to the learning process and based on the gradient-descent optimization methods. This places the challenge to approximate or generate the channel or its derivative from samples generated by pilot signaling in real-world scenarios. Currently, there are two prevalent methods to solve this problem. One is to generate the channel via a generative adversarial network (GAN), and the other is to, in essence, approximate the gradient via reinforcement learning methods. Other methods include using score-based methods, variational autoencoders, or mutual-information-based methods. In this paper, we focus on generative models and, in particular, on a new promising method called diffusion models, which have shown a higher quality of generation in image-based tasks. We will show that diffusion models can be used in wireless E2E scenarios and that they work as good as Wasserstein GANs while having a more stable training procedure and a better generalization ability in testing.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google