An Adaptive Federated Relevance Framework for Spatial Temporal Graph Learning

要約

時空間データには豊富な情報が含まれており、多くの分野で関連アプリケーションが急速に開発されているため、近年広く研究されています。
たとえば、医療機関では、健康診断や病気の診断のために、患者のさまざまな部位に電極を取り付け、空間的および時間的特徴に富んだ脳波データを分析することがよくあります。
既存の研究では、主に畳み込みニューラル ネットワーク (CNN) やリカレント ニューラル ネットワーク (RNN) などの深層学習技術を使用して、隠れた時空間特徴を抽出してきました。
しかし、相互依存関係の空間情報と動的時間変化の両方を同時に組み込むことは困難です。
実際には、これらの時空間特徴を活用して複雑な予測タスクを実行するモデルの場合、満足のいくモデルのパフォーマンスを得るために膨大な量のトレーニング データが必要になることがよくあります。
上記の課題を考慮して、本論文では、時空間グラフ学習のための適応型フェデレーション関連性フレームワーク、すなわち FedRel を提案します。
生の時空間データを高品質の特徴に変換した後、フレームワークのコア Dynamic Inter-Intra Graph (DIIG) モジュールは、これらの機能を使用して、隠れたトポロジーおよび長期的なデータをキャプチャできる時空間グラフを生成できます。
これらのグラフの時間相関情報。
ローカル データのプライバシーを維持しながらモデルの汎化能力とパフォーマンスを向上させるために、フレームワーク内で関連性主導型のフェデレーテッド ラーニング モジュールも設計し、モデルを注意深く集約してさまざまな参加者からの多様なデータ分布を活用します。

要約(オリジナル)

Spatial-temporal data contains rich information and has been widely studied in recent years due to the rapid development of relevant applications in many fields. For instance, medical institutions often use electrodes attached to different parts of a patient to analyse the electorencephal data rich with spatial and temporal features for health assessment and disease diagnosis. Existing research has mainly used deep learning techniques such as convolutional neural network (CNN) or recurrent neural network (RNN) to extract hidden spatial-temporal features. Yet, it is challenging to incorporate both inter-dependencies spatial information and dynamic temporal changes simultaneously. In reality, for a model that leverages these spatial-temporal features to fulfil complex prediction tasks, it often requires a colossal amount of training data in order to obtain satisfactory model performance. Considering the above-mentioned challenges, we propose an adaptive federated relevance framework, namely FedRel, for spatial-temporal graph learning in this paper. After transforming the raw spatial-temporal data into high quality features, the core Dynamic Inter-Intra Graph (DIIG) module in the framework is able to use these features to generate the spatial-temporal graphs capable of capturing the hidden topological and long-term temporal correlation information in these graphs. To improve the model generalization ability and performance while preserving the local data privacy, we also design a relevance-driven federated learning module in our framework to leverage diverse data distributions from different participants with attentive aggregations of their models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google