Energy-Efficient Federated Edge Learning with Streaming Data: A Lyapunov Optimization Approach

要約

フェデレーション ラーニング (FL) は、ユーザーの機密データを開示することなく、分散クライアント全体で機械学習モデルを効率的にトレーニングできる利点があるため、近年大きな注目を集めています。
具体的には、フェデレーテッド エッジ ラーニング (FEEL) システムでは、無線チャネルの時間変化の性質により、通信プロセスに避けられないシステム ダイナミクスが導入され、トレーニングの遅延とエネルギー消費に影響を与えます。
この作業では、新しいトレーニング データ サンプルがエッジ デバイスで時間の経過とともにランダムに生成されるストリーミング データ シナリオをさらに検討します。
私たちの目標は、長期的なエネルギー制約下でのデータ到着とリソース可用性における固有のランダム性に対処するための動的なスケジューリングとリソース割り当てアルゴリズムを開発することです。
これを達成するために、確率的ネットワーク最適化問題を定式化し、Lyapunov ドリフト プラス ペナルティ フレームワークを使用して動的なリソース管理設計を取得します。
私たちが提案するアルゴリズムは、ラウンドごとにデバイスのスケジューリング、計算能力の調整、帯域幅と送信電力の割り当てに関して適応的な決定を行います。
私たちは、異種データと時変目的関数を使用して検討された設定に対して収束分析を提供します。これは、提案したスケジューリング設計の背後にある理論的根拠をサポートします。
私たちのスキームの有効性はシミュレーション結果を通じて検証され、ベースラインスキームと比較して学習パフォーマンスとエネルギー効率が向上していることが実証されています。

要約(オリジナル)

Federated learning (FL) has received significant attention in recent years for its advantages in efficient training of machine learning models across distributed clients without disclosing user-sensitive data. Specifically, in federated edge learning (FEEL) systems, the time-varying nature of wireless channels introduces inevitable system dynamics in the communication process, thereby affecting training latency and energy consumption. In this work, we further consider a streaming data scenario where new training data samples are randomly generated over time at edge devices. Our goal is to develop a dynamic scheduling and resource allocation algorithm to address the inherent randomness in data arrivals and resource availability under long-term energy constraints. To achieve this, we formulate a stochastic network optimization problem and use the Lyapunov drift-plus-penalty framework to obtain a dynamic resource management design. Our proposed algorithm makes adaptive decisions on device scheduling, computational capacity adjustment, and allocation of bandwidth and transmit power in every round. We provide convergence analysis for the considered setting with heterogeneous data and time-varying objective functions, which supports the rationale behind our proposed scheduling design. The effectiveness of our scheme is verified through simulation results, demonstrating improved learning performance and energy efficiency as compared to baseline schemes.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google