Scalable and Reliable Over-the-Air Federated Edge Learning

要約

Federated Edge Learning (FEEL) は、大規模な最適化の中核パラダイムとして浮上しています。
ただし、FEEL は、高次元モデルの更新をクライアントからフェデレーターに送信するため、依然として通信ボトルネックに悩まされています。
無線計算 (AirComp) は、チャネル上のクライアントの更新を集約して通信リソースを節約することにより、マルチアクセス チャネルの付加的な特性を利用します。
アナログの符号化されていない送信は、多数のクライアントの同時送信による信号対雑音比 (SNR) の増加の恩恵を受けることができますが、潜在的なエラーは、SNR が小さい場合の学習プロセスに重大な悪影響を与える可能性があります。
この問題を軽減するために、最近、FEEL の AirComp に対してチャネル コーディング アプローチが提案されました。
ただし、クライアントの数が増えると、エラー訂正機能が低下します。
我々は、クライアント数における一定の誤り訂正機能を備えたデジタル格子ベースのコード構造を提案し、ポイントツーポイント AWGN チャネルでの最適なレートと電力効率でよく知られているネストされた格子コードと比較します。

要約(オリジナル)

Federated edge learning (FEEL) has emerged as a core paradigm for large-scale optimization. However, FEEL still suffers from a communication bottleneck due to the transmission of high-dimensional model updates from the clients to the federator. Over-the-air computation (AirComp) leverages the additive property of multiple-access channels by aggregating the clients’ updates over the channel to save communication resources. While analog uncoded transmission can benefit from the increased signal-to-noise ratio (SNR) due to the simultaneous transmission of many clients, potential errors may severely harm the learning process for small SNRs. To alleviate this problem, channel coding approaches were recently proposed for AirComp in FEEL. However, their error-correction capability degrades with an increasing number of clients. We propose a digital lattice-based code construction with constant error-correction capabilities in the number of clients, and compare to nested-lattice codes, well-known for their optimal rate and power efficiency in the point-to-point AWGN channel.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google