Conditional Distribution Learning on Graphs

要約

固有のセマンティック情報を保存しながら、さまざまなグラフ構造のデータ増強によって提供されるデータの多様性と量を活用することは困難です。
さらに、グラフニューラルネットワーク（GNN）の連続した層は、より類似したノード埋め込みを生成する傾向がありますが、グラフの対照学習は、ノード埋め込みの負のペア間の非類似性を高めることを目的としています。
これにより、必然的に、GNNのメッセージ通過メカニズム（MPM）と、イントラビューを介したネガティブペアの対照学習（CL）との間に矛盾が生じます。
このホワイトペーパーでは、半充填グラフ分類のグラフ構造データからグラフ表現を学習する条件分布学習（CDL）方法を提案します。
具体的には、元の機能を介して弱く強く拡張された機能の条件付き分布を整列させるために、エンドツーエンドのグラフ表現学習モデルを提示します。
このアラインメントにより、CDLモデルは、グラフ構造化データに弱いと強い増強の両方が適用される場合、固有の意味情報を効果的に保存できます。
MPMと負のペアのCLの間の競合を回避するために、ノード表現の正のペアが保持され、元の特徴と対応する弱い拡張機能の類似性を測定します。
いくつかのベンチマークグラフデータセットを使用した広範な実験は、提案されたCDLメソッドの有効性を示しています。

要約(オリジナル)

Leveraging the diversity and quantity of data provided by various graph-structured data augmentations while preserving intrinsic semantic information is challenging. Additionally, successive layers in graph neural network (GNN) tend to produce more similar node embeddings, while graph contrastive learning aims to increase the dissimilarity between negative pairs of node embeddings. This inevitably results in a conflict between the message-passing mechanism (MPM) of GNNs and the contrastive learning (CL) of negative pairs via intraviews. In this paper, we propose a conditional distribution learning (CDL) method that learns graph representations from graph-structured data for semisupervised graph classification. Specifically, we present an end-to-end graph representation learning model to align the conditional distributions of weakly and strongly augmented features over the original features. This alignment enables the CDL model to effectively preserve intrinsic semantic information when both weak and strong augmentations are applied to graph-structured data. To avoid the conflict between the MPM and the CL of negative pairs, positive pairs of node representations are retained for measuring the similarity between the original features and the corresponding weakly augmented features. Extensive experiments with several benchmark graph datasets demonstrate the effectiveness of the proposed CDL method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google