Fundamental Limitation of Semantic Communications: Neural Estimation for Rate-Distortion

要約

この論文では、離散メモリレス チャネルを介したセマンティック通信の基本的な限界について研究します。
観測状態とそれに対応する意味論的状態から構成される意味論的ソースを送信し、その両方が受信側で回復されるというシナリオを考えます。
パフォーマンスの限界を導き出すために、意味論的レート歪み関数 (SRDF) を採用して、最小圧縮率、観測歪み、意味論的歪み、およびチャネル容量の間の関係を調査します。
意味論的ソース分布が未知の場合、利用可能なソースサンプルのセットしかありませんが、生成ネットワークを活用して意味論的ソース分布を学習するニューラルネットワークベースの方法を提案します。
さらに、意味論的状態が観測の決定論的関数である特殊なケースについては、SRDF を推定するためのカスケード ニューラル ネットワークを設計します。
完全に既知の意味論的ソース分布の場合、SRDF を効果的に計算するための一般的な Blahut-Arimoto アルゴリズムを提案します。
最後に、実験結果は、理想的なガウス セマンティック ソースといくつかの実用的なデータセットを使用したシナリオに対して提案されたアルゴリズムを検証します。

要約(オリジナル)

This paper studies the fundamental limit of semantic communications over the discrete memoryless channel. We consider the scenario to send a semantic source consisting of an observation state and its corresponding semantic state, both of which are recovered at the receiver. To derive the performance limitation, we adopt the semantic rate-distortion function (SRDF) to study the relationship among the minimum compression rate, observation distortion, semantic distortion, and channel capacity. For the case with unknown semantic source distribution, while only a set of the source samples is available, we propose a neural-network-based method by leveraging the generative networks to learn the semantic source distribution. Furthermore, for a special case where the semantic state is a deterministic function of the observation, we design a cascade neural network to estimate the SRDF. For the case with perfectly known semantic source distribution, we propose a general Blahut-Arimoto algorithm to effectively compute the SRDF. Finally, experimental results validate our proposed algorithms for the scenarios with ideal Gaussian semantic source and some practical datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google