Over-the-Air Federated Averaging with Limited Power and Privacy Budgets

要約

タイトル：限られた電力とプライバシー予算でのオーバー・ザ・エアのフェデレーテッド・アベレージング

要約：
-フェデレーテッド・ラーニング（FL）の通信の瓶頸とプライバシーの漏洩を同時に克服するため、この論文では、限られた合計電力予算を持つ差分プライバシーのオーバー・ザ・エアのフェデレーテッド・アベレージング（DP-OAT-FedAvg）システムを研究しています。
-DP-OAT-FedAvgでは、アラインメント係数によって勾配を整列し、チャネルノイズを使ってプライバシーを保護して集約します。
-合計電力とプライバシーの制約に従って、装置スケジューリング、アラインメント係数、フェデレーテッド・アベレージング（FedAvg）の集約ラウンド数を共同で設計して、学習性能を改善することを目的としています。
– DPに基づくプライバシー分析を提供し、各通信ラウンドでアラインメント係数がプライバシー保全に与える影響を定量化しています。
– さらに、凸型および非凸型損失関数の場合にDP-OAT-FedAvgの収束分析を行い、装置スケジューリング、アラインメント係数、グローバル集約の数が学習プロセスに与える影響を調べました。
– これらの分析結果に基づいて、DP-OAT-FedAvgの最適性ギャップを限られた合計電力とプライバシー予算に従って最小化する最適化問題を設定しました。
– 問題は2つのサブ問題に分解されて解決され、通信ラウンド数が与えられた場合、スケジュールされた装置の数とアラインメント係数の関係をまとめ、潜在的な最適解のペアを提供します。
– 提案されたポリシーの有効性はシミュレーションによって検証されました。

要約(オリジナル)

To jointly overcome the communication bottleneck and privacy leakage of wireless federated learning (FL), this paper studies a differentially private over-the-air federated averaging (DP-OTA-FedAvg) system with a limited sum power budget. With DP-OTA-FedAvg, the gradients are aligned by an alignment coefficient and aggregated over the air, and channel noise is employed to protect privacy. We aim to improve the learning performance by jointly designing the device scheduling, alignment coefficient, and the number of aggregation rounds of federated averaging (FedAvg) subject to sum power and privacy constraints. We first present the privacy analysis based on differential privacy (DP) to quantify the impact of the alignment coefficient on privacy preservation in each communication round. Furthermore, to study how the device scheduling, alignment coefficient, and the number of the global aggregation affect the learning process, we conduct the convergence analysis of DP-OTA-FedAvg in the cases of convex and non-convex loss functions. Based on these analytical results, we formulate an optimization problem to minimize the optimality gap of the DP-OTA-FedAvg subject to limited sum power and privacy budgets. The problem is solved by decoupling it into two sub-problems. Given the number of communication rounds, we conclude the relationship between the number of scheduled devices and the alignment coefficient, which offers a set of potential optimal solution pairs of device scheduling and the alignment coefficient. Thanks to the reduced search space, the optimal solution can be efficiently obtained. The effectiveness of the proposed policy is validated through simulations.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI