RealFM: A Realistic Mechanism to Incentivize Data Contribution and Device Participation

要約

フェデレーティング ラーニング (FL) へのエッジ デバイスの参加は、通常、デバイスとサーバーの通信 (デバイス ドロップアウトなど) の観点から研究されており、FL に参加したいというエッジ デバイスからの絶え間ない要望が想定されています。
その結果、現在の FL フレームワークは現実世界の設定に実装すると欠陥があり、多くがフリーライダー問題に遭遇します。
FL を現実的な設定に近づけるステップとして、私たちは RealFM を提案します。これは、(1) デバイスのユーティリティを現実的にモデル化し、(2) データの貢献とデバイスの参加を奨励し、(3) フリーライダー現象を確実に排除する初の真の連合メカニズムです。
RealFM ではデータ共有が必要なく、モデルの精度とユーティリティの間の非線形関係が可能になります。これにより、サーバーと参加デバイスが得られるユーティリティが、非参加デバイスや他の FL メカニズムに参加しているデバイスと比較して向上します。
実世界のデータでは、RealFM は、ベースライン メカニズムと比較して、デバイスとサーバーのユーティリティ、およびデータの寄与をそれぞれ最大 3 倍、最大 7 倍向上させます。

要約(オリジナル)

Edge device participation in federating learning (FL) has been typically studied under the lens of device-server communication (e.g., device dropout) and assumes an undying desire from edge devices to participate in FL. As a result, current FL frameworks are flawed when implemented in real-world settings, with many encountering the free-rider problem. In a step to push FL towards realistic settings, we propose RealFM: the first truly federated mechanism which (1) realistically models device utility, (2) incentivizes data contribution and device participation, and (3) provably removes the free-rider phenomena. RealFM does not require data sharing and allows for a non-linear relationship between model accuracy and utility, which improves the utility gained by the server and participating devices compared to non-participating devices as well as devices participating in other FL mechanisms. On real-world data, RealFM improves device and server utility, as well as data contribution, by up to 3 magnitudes and 7x respectively compared to baseline mechanisms.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google