Learning Dynamic Graph Embeddings with Neural Controlled Differential Equations

要約

この論文では、時間的相互作用を伴う動的グラフの表現学習に焦点を当てています。
基本的な問題は、グラフ構造とノードの両方が独自のダイナミクスを所有しており、それらのブレンドがグラフの時間的進化に手に負えない複雑さをもたらすことです。
ディープ ニューラル ネットワークにおける物理動的モデルの最近のプロセスから着想を得て、グラフ ニューラル制御微分方程式 (GN-CDE) モデルを提案します。これは、ニューラル ネットワークを使用したノード埋め込み軌道の継続的な動的進化を特徴付ける動的グラフの一般的な微分モデルです。
パラメータ化されたベクトル場と相互作用 w.r.t の微分
時間。
私たちのフレームワークは、セグメントごとに統合せずに進化するグラフでダイナミクスを表現する機能、後続のデータで軌道を調整する機能、欠落した観測に対する堅牢性など、いくつかの望ましい特性を示します。
さまざまな動的グラフ表現学習タスクの経験的評価は、ベースラインと比較して提案されたアプローチの優位性を示しています。

要約(オリジナル)

This paper focuses on representation learning for dynamic graphs with temporal interactions. A fundamental issue is that both the graph structure and the nodes own their own dynamics, and their blending induces intractable complexity in the temporal evolution over graphs. Drawing inspiration from the recent process of physical dynamic models in deep neural networks, we propose Graph Neural Controlled Differential Equation (GN-CDE) model, a generic differential model for dynamic graphs that characterise the continuously dynamic evolution of node embedding trajectories with a neural network parameterised vector field and the derivatives of interactions w.r.t. time. Our framework exhibits several desirable characteristics, including the ability to express dynamics on evolving graphs without integration by segments, the capability to calibrate trajectories with subsequent data, and robustness to missing observations. Empirical evaluation on a range of dynamic graph representation learning tasks demonstrates the superiority of our proposed approach compared to the baselines.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google