Graph Contrastive Learning with Cohesive Subgraph Awareness

要約

グラフ対比学習 (GCL) は、社会ネットワークや生物医学ネットワークを含む多様なグラフ表現を学習するための最先端の戦略として登場しました。
GCL は、均一なノード削除などの確率的グラフ トポロジ拡張を広く使用して、拡張グラフを生成します。
ただし、このような確率的拡張は、グラフの固有の特性に重大な損傷を与え、その後の表現学習プロセスを悪化させる可能性があります。
私たちは、グラフの拡張および学習プロセス中に凝集したサブグラフを意識することを組み込むことで、GCL のパフォーマンスを向上させる可能性があると主張します。
この目的を達成するために、CTAug と呼ばれる新しい統合フレームワークを提案し、凝集認識をさまざまな既存の GCL メカニズムにシームレスに統合します。
特に、CTAug は、トポロジー拡張拡張機能とグラフ学習拡張機能という 2 つの特殊なモジュールで構成されています。
前者のモジュールは凝集特性を慎重に保持する拡張グラフを生成し、後者のモジュールはサブグラフ パターンを識別するグラフ エンコーダの能力を強化します。
理論的分析により、CTAug は既存の GCL メカニズムを厳密に改善できることが示されています。
実証実験により、CTAug がグラフ表現学習、特に次数の高いグラフに対して最先端のパフォーマンスを達成できることが検証されています。
コードは https://doi.org/10.5281/zenodo.10594093 または https://github.com/wuyucheng2002/CTAug で入手できます。

要約(オリジナル)

Graph contrastive learning (GCL) has emerged as a state-of-the-art strategy for learning representations of diverse graphs including social and biomedical networks. GCL widely uses stochastic graph topology augmentation, such as uniform node dropping, to generate augmented graphs. However, such stochastic augmentations may severely damage the intrinsic properties of a graph and deteriorate the following representation learning process. We argue that incorporating an awareness of cohesive subgraphs during the graph augmentation and learning processes has the potential to enhance GCL performance. To this end, we propose a novel unified framework called CTAug, to seamlessly integrate cohesion awareness into various existing GCL mechanisms. In particular, CTAug comprises two specialized modules: topology augmentation enhancement and graph learning enhancement. The former module generates augmented graphs that carefully preserve cohesion properties, while the latter module bolsters the graph encoder’s ability to discern subgraph patterns. Theoretical analysis shows that CTAug can strictly improve existing GCL mechanisms. Empirical experiments verify that CTAug can achieve state-of-the-art performance for graph representation learning, especially for graphs with high degrees. The code is available at https://doi.org/10.5281/zenodo.10594093, or https://github.com/wuyucheng2002/CTAug.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google