Client Selection in Federated Learning: Principles, Challenges, and Opportunities

要約

Federated Learning (FL) は、機械学習 (ML) モデルをトレーニングするためのプライバシー保護パラダイムとして、産業界と学術界の両方から多大な注目を集めています。
典型的な FL シナリオでは、クライアントはデータ分散とハードウェア構成の点で大きな異質性を示します。
したがって、各トレーニング ラウンドでクライアントをランダムにサンプリングすると、異種クライアントからのローカル更新を十分に活用できない可能性があり、その結果、モデルの精度が低下し、収束速度が遅くなり、公平性が低下するなどの結果が生じます。 FL クライアントの異種混合問題に取り組むために、さまざまなクライアント選択アルゴリズムが開発されました。
、パフォーマンスの向上が期待できることが示されています。
この論文では、FL クライアント選択という新興分​​野における最近の進歩と、その課題と研究の機会を体系的に紹介します。
私たちは、実務家がアプリケーションに最適なクライアント選択メカニズムを選択できるようにするとともに、研究者や初心者がこの刺激的な研究テーマをより深く理解できるようにしたいと考えています。

要約(オリジナル)

As a privacy-preserving paradigm for training Machine Learning (ML) models, Federated Learning (FL) has received tremendous attention from both industry and academia. In a typical FL scenario, clients exhibit significant heterogeneity in terms of data distribution and hardware configurations. Thus, randomly sampling clients in each training round may not fully exploit the local updates from heterogeneous clients, resulting in lower model accuracy, slower convergence rate, degraded fairness, etc. To tackle the FL client heterogeneity problem, various client selection algorithms have been developed, showing promising performance improvement. In this paper, we systematically present recent advances in the emerging field of FL client selection and its challenges and research opportunities. We hope to facilitate practitioners in choosing the most suitable client selection mechanisms for their applications, as well as inspire researchers and newcomers to better understand this exciting research topic.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google