Sample-Driven Federated Learning for Energy-Efficient and Real-Time IoT Sensing

要約

フェデレーテッド ラーニング (FL) システムの分野では、最近の最先端の手法は理想的な条件の収束分析に大きく依存しています。
具体的には、これらのアプローチは、IoT デバイス上のトレーニング データセットがグローバル データ分布と同様の属性を持っていることを前提としています。
ただし、このアプローチでは、リアルタイム センシング FL システムのデータ特性の全範囲を捕捉することはできません。
この制限を克服するために、リアルタイム センシング機能を備えた IoT ネットワーク専用に設計された新しいアプローチ システムを提案します。
私たちのアプローチでは、ユーザーのデータ サンプリング プロセスによる一般化ギャップが考慮されています。
このサンプリング プロセスを効果的に制御することで、オーバーフィッティングの問題を軽減し、全体的な精度を向上させることができます。
具体的には、最初に、サンプリング プロセスを利用して、精度を最大化しながら同時に過学習を低減する最適化問題を定式化します。
この目的を追求するために、私たちのサロゲート最適化問題は、高度な一般化で精度を最適化しながら、エネルギー効率の処理に優れています。
複雑性の高い最適化問題を解決するために、Soft Actor-Critic (A2C) フレームワークに基づいて構築された、Sample-driven Control for Federated Learning (SCFL) という名前のオンライン強化学習アルゴリズムを導入します。
これにより、エージェントは環境が変化しても動的に適応し、全体的な最適化を見つけることができます。
SCFL の機能を活用することで、当社のシステムは、リアルタイム センシング機能を備えた FL システムのリソース割り当てに有望なソリューションを提供します。

要約(オリジナル)

In the domain of Federated Learning (FL) systems, recent cutting-edge methods heavily rely on ideal conditions convergence analysis. Specifically, these approaches assume that the training datasets on IoT devices possess similar attributes to the global data distribution. However, this approach fails to capture the full spectrum of data characteristics in real-time sensing FL systems. In order to overcome this limitation, we suggest a new approach system specifically designed for IoT networks with real-time sensing capabilities. Our approach takes into account the generalization gap due to the user’s data sampling process. By effectively controlling this sampling process, we can mitigate the overfitting issue and improve overall accuracy. In particular, We first formulate an optimization problem that harnesses the sampling process to concurrently reduce overfitting while maximizing accuracy. In pursuit of this objective, our surrogate optimization problem is adept at handling energy efficiency while optimizing the accuracy with high generalization. To solve the optimization problem with high complexity, we introduce an online reinforcement learning algorithm, named Sample-driven Control for Federated Learning (SCFL) built on the Soft Actor-Critic (A2C) framework. This enables the agent to dynamically adapt and find the global optima even in changing environments. By leveraging the capabilities of SCFL, our system offers a promising solution for resource allocation in FL systems with real-time sensing capabilities.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google