Price-Discrimination Game for Distributed Resource Management in Federated Learning

要約

FedAvgのようなバニラ連合学習(FL)では、パラメータサーバ(PS)と複数の分散クライアントが典型的な買い手市場を形成しうるが、PS/FLサービスの買い手の数はクライアント/売り手の数よりはるかに少ない。FLのパフォーマンスを向上させ、クライアントのFLへの参加意欲を高めるためのコストを削減するために、本論文では、異なるクライアントに対して単に同じサービス価格を提供するのではなく、異なるクライアントによって提供されるサービスの価格設定を差別化することを提案する。価格は、FLにもたらされる性能向上と、計算能力と通信能力におけるクライアントの異質性に基づいて差別化される。このため、FLにおける分散資源管理問題を包括的に扱うために、多目的トレードオフ、クライアント選択、インセンティブメカニズムを含む価格差別化ゲーム（PDG）が定式化される。PDGは混合整数非線形計画法(MINLP)問題であるため、これを解くために計算量が少なく通信オーバヘッドの少ない分散型半実験的アルゴリズムが設計されている。シミュレーションの結果、提案アプローチの有効性が検証された。

要約(オリジナル)

In vanilla federated learning (FL) such as FedAvg, the parameter server (PS) and multiple distributed clients can form a typical buyer’s market, where the number of PS/buyers of FL services is far less than the number of clients/sellers. In order to improve the performance of FL and reduce the cost of motivating clients to participate in FL, this paper proposes to differentiate the pricing for services provided by different clients rather than simply providing the same service pricing for different clients. The price is differentiated based on the performance improvements brought to FL and their heterogeneity in computing and communication capabilities. To this end, a price-discrimination game (PDG) is formulated to comprehensively address the distributed resource management problems in FL, including multi-objective trade-off, client selection, and incentive mechanism. As the PDG is a mixed-integer nonlinear programming (MINLP) problem, a distributed semi-heuristic algorithm with low computational complexity and low communication overhead is designed to solve it. The simulation result verifies the effectiveness of the proposed approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL