Community-Invariant Graph Contrastive Learning

要約

グラフ拡張は、よく一般化されたノード/グラフ表現を学習するためのグラフ対比学習 (GCL) として近年大きな注目を集めています。
しかし、主流の GCL 手法は、拡張のためにグラフをランダムに破壊することを好むことが多く、一般化が限られており、必然的に高レベルのグラフ情報、つまりグラフ コミュニティの破損につながります。
さらに、現在の知識ベースのグラフ拡張手法は、トポロジまたはノードの特徴のいずれかにのみ焦点を当てることができるため、モデルはさまざまなタイプのノイズに対する堅牢性に欠けます。
これらの制限に対処するために、この研究ではグラフ拡張におけるグラフ コミュニティの役割を調査し、学習可能なグラフ拡張におけるグラフ コミュニティの重要な利点を明らかにしました。
私たちの観察に基づいて、学習可能なグラフ拡張中にグラフ コミュニティ構造を維持するためのコミュニティ不変 GCL フレームワークを提案します。
このフレームワークは、スペクトル変化を最大化することにより、トポロジーと特徴拡張の両方の制約を統合し、モデルの堅牢性を強化します。
21 のベンチマーク データセットに関する経験的証拠は、私たちのフレームワークの優れた利点を示しています。
コードは Github (https://github.com/ShiyinTan/CI-GCL.git) で公開されています。

要約(オリジナル)

Graph augmentation has received great attention in recent years for graph contrastive learning (GCL) to learn well-generalized node/graph representations. However, mainstream GCL methods often favor randomly disrupting graphs for augmentation, which shows limited generalization and inevitably leads to the corruption of high-level graph information, i.e., the graph community. Moreover, current knowledge-based graph augmentation methods can only focus on either topology or node features, causing the model to lack robustness against various types of noise. To address these limitations, this research investigated the role of the graph community in graph augmentation and figured out its crucial advantage for learnable graph augmentation. Based on our observations, we propose a community-invariant GCL framework to maintain graph community structure during learnable graph augmentation. By maximizing the spectral changes, this framework unifies the constraints of both topology and feature augmentation, enhancing the model’s robustness. Empirical evidence on 21 benchmark datasets demonstrates the exclusive merits of our framework. Code is released on Github (https://github.com/ShiyinTan/CI-GCL.git).

arxiv情報

著者 Shiyin Tan,Dongyuan Li,Renhe Jiang,Ying Zhang,Manabu Okumura
発行日 2024-05-02 14:59:58+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, cs.SI パーマリンク