Self-Supervised Temporal Graph learning with Temporal and Structural Intensity Alignment

要約

時系列グラフ学習は、最近注目を集めている動的情報とともに、グラフベースのタスクの高品質な表現を生成することを目的としています。
静的グラフとは異なり、時間グラフは通常、隣接行列ではなく、連続時間にわたるノード相互作用シーケンスの形式で編成されます。
ほとんどの時間グラフ学習方法は、時間の経過に伴う履歴情報を組み合わせることにより、現在の相互作用をモデル化します。
ただし、このような方法は、重要な高次の構造情報を無視して一次の時間情報を考慮するだけであり、最適なパフォーマンスにつながりません。
この問題を解決するために、時間情報と構造情報の両方を抽出してより有益なノード表現を学習することにより、時間グラフ学習用の S2T と呼ばれる自己教師あり方法を提案します。
一次時間情報と高次構造情報は、初期ノード表現によって異なる方法で結合され、それぞれ 2 つの条件付き強度が計算されることに注意してください。
次に、アラインメント ロスを導入して、2 つの強度間のギャップを狭めることにより、ノードの表現をより有益なものに最適化します。
具体的には、過去の近隣シーケンスを使用して時間情報をモデル化することに加えて、ローカル レベルとグローバル レベルの両方からの構造情報をさらに考慮します。
局所レベルでは、高次隣接配列から特徴を集約することにより、構造強度を生成します。
グローバルレベルでは、すべてのノードに基づいてグローバル表現が生成され、さまざまなノードのアクティブステータスに従って構造強度が調整されます。
広範な実験により、提案された方法 S2T は、いくつかのデータセットで最先端の競合他社と比較して、最大で 10.13% のパフォーマンス向上を達成することが実証されています。

要約(オリジナル)

Temporal graph learning aims to generate high-quality representations for graph-based tasks along with dynamic information, which has recently drawn increasing attention. Unlike the static graph, a temporal graph is usually organized in the form of node interaction sequences over continuous time instead of an adjacency matrix. Most temporal graph learning methods model current interactions by combining historical information over time. However, such methods merely consider the first-order temporal information while ignoring the important high-order structural information, leading to sub-optimal performance. To solve this issue, by extracting both temporal and structural information to learn more informative node representations, we propose a self-supervised method termed S2T for temporal graph learning. Note that the first-order temporal information and the high-order structural information are combined in different ways by the initial node representations to calculate two conditional intensities, respectively. Then the alignment loss is introduced to optimize the node representations to be more informative by narrowing the gap between the two intensities. Concretely, besides modeling temporal information using historical neighbor sequences, we further consider the structural information from both local and global levels. At the local level, we generate structural intensity by aggregating features from the high-order neighbor sequences. At the global level, a global representation is generated based on all nodes to adjust the structural intensity according to the active statuses on different nodes. Extensive experiments demonstrate that the proposed method S2T achieves at most 10.13% performance improvement compared with the state-of-the-art competitors on several datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google