M3FGM:a node masking and multi-granularity message passing-based federated graph model for spatial-temporal data prediction

要約

研究者たちは、プライバシーとセキュリティの制約に関して、フェデレーテッド ラーニング (FL) とグラフ モデルを組み合わせることにより、時空間予測の課題を解決しています。
グラフ モデルの力をより有効に活用するために、分割学習 (SL) を組み合わせた研究もあります。
ただし、まだいくつかの問題が残されています。1) クライアントは推論フェーズ中にサーバーにアクセスできない可能性があります。
2) サーバー モデルで手動で設計されたクライアントのグラフでは、クライアント間の適切な関係が明らかにならない場合があります。
この論文では、ノード {\bfseries M}asking および {\bfseries M}ulti-granularity {\bfseries M}essage pass-based Federated Graph Model (M$^3$FGM) という名前の、新しい GNN 指向の分割連合学習手法を提案します。
上記の問題について。
最初の問題では、M$^3$FGM のサーバー モデルは、MaskNode 層を使用して、クライアントがオフラインの場合をシミュレートします。
また、デュアル サブ デコーダー構造を使用してクライアント モデルのデコーダーを再設計し、オフライン時に各クライアント モデルがローカル データを使用して個別に予測できるようにしました。
2 番目の問題に関しては、Multi-Granularity Message Passing (MGMP) レイヤーと呼ばれる新しい GNN レイヤーにより、各クライアント ノードがグローバル情報とローカル情報を認識できるようになります。
私たちは、2 つの実際の交通データセットに対して 2 つの異なるシナリオで広範な実験を実施しました。
結果は、M$^3$FGM がベースラインおよびバリアント モデルよりも優れており、データセットとシナリオの両方で最高の結果を達成していることを示しています。

要約(オリジナル)

Researchers are solving the challenges of spatial-temporal prediction by combining Federated Learning (FL) and graph models with respect to the constrain of privacy and security. In order to make better use of the power of graph model, some researchs also combine split learning(SL). However, there are still several issues left unattended: 1) Clients might not be able to access the server during inference phase; 2) The graph of clients designed manually in the server model may not reveal the proper relationship between clients. This paper proposes a new GNN-oriented split federated learning method, named node {\bfseries M}asking and {\bfseries M}ulti-granularity {\bfseries M}essage passing-based Federated Graph Model (M$^3$FGM) for the above issues. For the first issue, the server model of M$^3$FGM employs a MaskNode layer to simulate the case of clients being offline. We also redesign the decoder of the client model using a dual-sub-decoders structure so that each client model can use its local data to predict independently when offline. As for the second issue, a new GNN layer named Multi-Granularity Message Passing (MGMP) layer enables each client node to perceive global and local information. We conducted extensive experiments in two different scenarios on two real traffic datasets. Results show that M$^3$FGM outperforms the baselines and variant models, achieves the best results in both datasets and scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google