Federated Learning with Integrated Sensing, Communication, and Computation: Frameworks and Performance Analysis

要約

今後の 6G 時代における統合センシング、通信、コンピューティング (ISCC) の出現に伴い、サンプル収集、ローカル トレーニング、パラメータ交換と集約を統合する ISCC によるフェデレーテッド ラーニング (FL-ISCC) がトレーニングを強化するための関心が高まっています。
効率。
現在、FL-ISCC には主に、FedAVG-ISCC と FedSGD-ISCC という 2 つのアルゴリズムが含まれています。
ただし、これらのアルゴリズムのパフォーマンスと利点についての理論的な理解は依然として限られています。
このギャップに対処するために、FedAVG-ISCC と FedSGD-ISCC の両方を実装する一般的な FL-ISCC フレームワークを調査します。
私たちは、フロリダ州での待ち時間とエネルギー消費の削減における ISCC フレームワークの大きな可能性を実験的に実証します。
さらに、理論的な分析と比較も提供します。
その結果、次のことが明らかになりました。1) サンプル収集エラーと通信エラーの両方がアルゴリズムのパフォーマンスに悪影響を及ぼし、FL-ISCC アプリケーションを最適化するには慎重な設計の必要性が強調されています。
2) FedAVG-ISCC は、複数のローカル更新による利点により、IID データの下では FedSGD-ISCC よりも優れたパフォーマンスを発揮します。
3) FedSGD-ISCC は、非 IID データの下では FedAVG-ISCC よりも堅牢ですが、FedAVG-ISCC の複数のローカル更新により、非 IID データが増加するにつれてパフォーマンスが低下します。
FedSGD-ISCC は、IID 条件と同様のパフォーマンス レベルを維持します。
4) FedSGD-ISCC は、通信エラーが増加するとパフォーマンスが大幅に低下する FedAVG-ISCC よりも通信エラーに対する耐性が高くなります。広範なシミュレーションにより、FL-ISCC フレームワークの有効性が確認され、理論分析が検証されます。

要約(オリジナル)

With the emergence of integrated sensing, communication, and computation (ISCC) in the upcoming 6G era, federated learning with ISCC (FL-ISCC), integrating sample collection, local training, and parameter exchange and aggregation, has garnered increasing interest for enhancing training efficiency. Currently, FL-ISCC primarily includes two algorithms: FedAVG-ISCC and FedSGD-ISCC. However, the theoretical understanding of the performance and advantages of these algorithms remains limited. To address this gap, we investigate a general FL-ISCC framework, implementing both FedAVG-ISCC and FedSGD-ISCC. We experimentally demonstrate the substantial potential of the ISCC framework in reducing latency and energy consumption in FL. Furthermore, we provide a theoretical analysis and comparison. The results reveal that:1) Both sample collection and communication errors negatively impact algorithm performance, highlighting the need for careful design to optimize FL-ISCC applications. 2) FedAVG-ISCC performs better than FedSGD-ISCC under IID data due to its advantage with multiple local updates. 3) FedSGD-ISCC is more robust than FedAVG-ISCC under non-IID data, where the multiple local updates in FedAVG-ISCC worsen performance as non-IID data increases. FedSGD-ISCC maintains performance levels similar to IID conditions. 4) FedSGD-ISCC is more resilient to communication errors than FedAVG-ISCC, which suffers from significant performance degradation as communication errors increase.Extensive simulations confirm the effectiveness of the FL-ISCC framework and validate our theoretical analysis.

arxiv情報

著者 Yipeng Liang,Qimei Chen,Hao Jiang
発行日 2024-09-17 14:42:49+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.DC, cs.LG パーマリンク