Blind Federated Learning via Over-the-Air q-QAM

要約

この研究では、フェージング多重アクセス チャネルを介したフェデレーテッド エッジ学習を調査します。
エッジ デバイスとアクセス ポイント間の通信負荷を軽減するために、Q 値直交振幅変調を採用した先駆的なデジタル 無線計算戦略を導入し、低遅延通信方式を実現します。
実際、私たちは、エッジデバイスがチャネル状態情報にアクセスできない間、エッジサーバーへの無線アップリンク送信にデジタル変調を使用する、新しいフェデレーテッドエッジラーニングフレームワークを提案します。
さらに、無線通信特有のフェージングを克服するために、エッジ サーバーに複数のアンテナを組み込んでいます。
フェージングの影響を効果的に軽減するために必要なアンテナの数を分析します。
ノイズとフェージングの両方の条件下でデジタル無線アップリンク送信を使用した提案されたフェデレーテッド ラーニングの平均二乗誤差の非漸近上限を証明します。
導出された上限を利用して、フェージング チャネルによる勾配の平均二乗誤差の観点から、非凸損失関数の学習プロセスの収束率を特徴付けます。
さらに、デジタル連合エッジ学習フレームワークの平均二乗誤差と収束効率に関する数値実験を通じて理論的保証を実証します。
特に、この結果は、エッジ サーバーのアンテナの数を増やし、高次の変調を採用すると、モデルの精度が最大 60\% 向上することを示しています。

要約(オリジナル)

In this work, we investigate federated edge learning over a fading multiple access channel. To alleviate the communication burden between the edge devices and the access point, we introduce a pioneering digital over-the-air computation strategy employing q-ary quadrature amplitude modulation, culminating in a low latency communication scheme. Indeed, we propose a new federated edge learning framework in which edge devices use digital modulation for over-the-air uplink transmission to the edge server while they have no access to the channel state information. Furthermore, we incorporate multiple antennas at the edge server to overcome the fading inherent in wireless communication. We analyze the number of antennas required to mitigate the fading impact effectively. We prove a non-asymptotic upper bound for the mean squared error for the proposed federated learning with digital over-the-air uplink transmissions under both noisy and fading conditions. Leveraging the derived upper bound, we characterize the convergence rate of the learning process of a non-convex loss function in terms of the mean square error of gradients due to the fading channel. Furthermore, we substantiate the theoretical assurances through numerical experiments concerning mean square error and the convergence efficacy of the digital federated edge learning framework. Notably, the results demonstrate that augmenting the number of antennas at the edge server and adopting higher-order modulations improve the model accuracy up to 60\%.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google