M3FGM:a node masking and multi-granularity message passing-based federated graph model for spatial-temporal data prediction

要約

タイトル：Spatio-Temporalデータ予測のためのノードマスキングとマルチグラニュラリティメッセージパッシングをベースとしたフェデレーテッドグラフモデルM3FGM

要約：

– 研究者たちは、プライバシーとセキュリティの制約に基づくグラフモデルとフェデレーテッド学習（FL）を組み合わせることで、空間的-時間的予測の課題を解決している。
– グラフモデルのパワーをより効果的に活用するため、一部の研究ではスプリット学習（SL）も組み合わせている。
– しかし、次の問題が未解決のままになっている。　１）推論フェーズ中にクライアントがサーバーにアクセスできない可能性がある。　２）サーバーモデルで手動で設計されたクライアントのグラフが、クライアント間の適切な関係を示していない可能性がある。
– この論文では、新しいGNN指向のスプリットフェデレーテッド学習方法、ノードマスキングとマルチグラニュラリティメッセージパッシングをベースとしたフェデレーテッドグラフモデル（M3FGM）を提案して、上記の問題に対処する。
– 最初の問題に対して、M3FGMのサーバーモデルはMaskNodeレイヤを使用して、クライアントがオフラインの場合をシミュレートする。また、クライアントモデルのデコーダをデュアルサブデコーダ構造で再設計し、各クライアントモデルがオフライン時に独立してローカルデータを使用して予測できるようにする。
– 第2の問題に対処するために、Multi-Granularity Message Passing（MGMP）レイヤという新しいGNNレイヤが、各クライアントノードがグローバル情報とローカル情報を知覚できるようにする。
– 2つの異なるシナリオの2つの実際の交通モデルで幅広い実験を実施し、結果は、M3FGMがベースラインおよび変異モデルを上回り、両方のデータセットとシナリオで最高の結果を達成したことを示している。

要約(オリジナル)

Researchers are solving the challenges of spatial-temporal prediction by combining Federated Learning (FL) and graph models with respect to the constrain of privacy and security. In order to make better use of the power of graph model, some researchs also combine split learning(SL). However, there are still several issues left unattended: 1) Clients might not be able to access the server during inference phase; 2) The graph of clients designed manually in the server model may not reveal the proper relationship between clients. This paper proposes a new GNN-oriented split federated learning method, named node {\bfseries M}asking and {\bfseries M}ulti-granularity {\bfseries M}essage passing-based Federated Graph Model (M$^3$FGM) for the above issues. For the first issue, the server model of M$^3$FGM employs a MaskNode layer to simulate the case of clients being offline. We also redesign the decoder of the client model using a dual-sub-decoders structure so that each client model can use its local data to predict independently when offline. As for the second issue, a new GNN layer named Multi-Granularity Message Passing (MGMP) layer enables each client node to perceive global and local information. We conducted extensive experiments in two different scenarios on two real traffic datasets. Results show that M$^3$FGM outperforms the baselines and variant models, achieves the best results in both datasets and scenarios.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI