HetCAN: A Heterogeneous Graph Cascade Attention Network with Dual-Level Awareness

要約

異種グラフ ニューラル ネットワーク (HGNN) は、現実世界のアプリケーションで遍在する異種グラフをモデル化する際に優れた能力を最近示しました。
異種グラフの既存の手法のほとんどは、主に複数の畳み込み層またはアテンション層を積み重ねることによってノードの埋め込みを学習します。これは、ノードレベルの側面から高次の情報を取得すると考えることができます。
しかし、異種グラフ内の異なる種類のノードは多様な特徴を持っているため、ノード特徴間の相互作用、つまり特徴レベルの側面から高次の情報を捉えることも必要です。
さらに、ほとんどの方法では、最初にノードの特徴を 1 つの同じ低次元空間にマッピングすることで位置合わせしますが、この方法ではノードの一部の型情報が失われる可能性があります。
これらの問題に対処するために、本論文では、複数のカスケード ブロックで構成される新しい異種グラフ カスケード アテンション ネットワーク (HetCAN) を提案します。
各カスケード ブロックには、タイプ認識エンコーダーと次元認識エンコーダーの 2 つのコンポーネントが含まれています。
具体的には、タイプ認識エンコーダーはノードタイプ情報の損失を補い、グラフの異質性を最大限に活用することを目指しています。
次元認識エンコーダは、ノード フィーチャ間の相互作用をキャプチャすることで、フィーチャ レベルの高次の情報を学習できます。
これらのコンポーネントの支援により、HetCAN はノードの特徴、グラフの異質性、およびノー​​ドの埋め込み内のグラフ構造の情報を包括的にエンコードできます。
広範な実験により、先進的な競合製品に対する HetCAN の優位性が実証され、その効率性と堅牢性も実証されました。

要約(オリジナル)

Heterogeneous graph neural networks(HGNNs) have recently shown impressive capability in modeling heterogeneous graphs that are ubiquitous in real-world applications. Most existing methods for heterogeneous graphs mainly learn node embeddings by stacking multiple convolutional or attentional layers, which can be considered as capturing the high-order information from node-level aspect. However, different types of nodes in heterogeneous graphs have diverse features, it is also necessary to capture interactions among node features, namely the high-order information from feature-level aspect. In addition, most methods first align node features by mapping them into one same low-dimensional space, while they may lose some type information of nodes in this way. To address these problems, in this paper, we propose a novel Heterogeneous graph Cascade Attention Network (HetCAN) composed of multiple cascade blocks. Each cascade block includes two components, the type-aware encoder and the dimension-aware encoder. Specifically, the type-aware encoder compensates for the loss of node type information and aims to make full use of graph heterogeneity. The dimension-aware encoder is able to learn the feature-level high-order information by capturing the interactions among node features. With the assistance of these components, HetCAN can comprehensively encode information of node features, graph heterogeneity and graph structure in node embeddings. Extensive experiments demonstrate the superiority of HetCAN over advanced competitors and also exhibit its efficiency and robustness.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google