Semantic-aware Node Synthesis for Imbalanced Heterogeneous Information Networks

要約

異種グラフ ニューラル ネットワーク (HGNN) は、異種情報ネットワーク (HIN) における複雑な異種性のモデル化において優れた効果を示しています。
HGNN の重要な利点は、効果的な表現学習のために豊富なセマンティック情報を抽出して利用することで、HIN 内の多様なノードおよびエッジ タイプを処理できることです。
ただし、現実世界の多くのシナリオで広く見られる現象として、HIN のクラス不均衡分布は、既存の HGNN のパフォーマンスのボトルネックを引き起こします。
ノードの量の不均衡とは別に、HIN におけるもう 1 つのより重要かつ特徴的な課題は、セマンティックの不均衡です。
HIN の少数派クラスには、多様で十分な隣接ノードが欠けていることが多く、その結果、偏った不完全なセマンティック情報が得られます。
このセマンティックの不均衡により、少数ノードを正確に分類することがさらに困難になり、HGNN のパフォーマンス低下につながります。
少数派クラスの不均衡に取り組み、その不適切なセマンティクスを補うために、不均衡な HIN におけるセマンティックの不均衡問題に対する最初の方法である Semantic-aware Node Synthesis (SNS) を提案します。
マイノリティクラスへの影響を評価することで、SNS は異種の隣接ノードを適応的に選択し、マイノリティのセマンティクスを維持しながら合成ノードでネットワークを強化します。
さらに、セマンティックとクラスの両方の観点から合成ノードの表現を制約する HGNN 用の 2 つの正則化アプローチを導入して、合成ノードからの潜在的なノイズを効果的に抑制し、分類のためのより表現力豊かな埋め込みを容易にします。
包括的な実験研究は、SNS がさまざまなベンチマーク データセットにおいて既存の手法を常に大幅に上回るパフォーマンスを示していることを示しています。

要約(オリジナル)

Heterogeneous graph neural networks (HGNNs) have exhibited exceptional efficacy in modeling the complex heterogeneity in heterogeneous information networks (HINs). The critical advantage of HGNNs is their ability to handle diverse node and edge types in HINs by extracting and utilizing the abundant semantic information for effective representation learning. However, as a widespread phenomenon in many real-world scenarios, the class-imbalance distribution in HINs creates a performance bottleneck for existing HGNNs. Apart from the quantity imbalance of nodes, another more crucial and distinctive challenge in HINs is semantic imbalance. Minority classes in HINs often lack diverse and sufficient neighbor nodes, resulting in biased and incomplete semantic information. This semantic imbalance further compounds the difficulty of accurately classifying minority nodes, leading to the performance degradation of HGNNs. To tackle the imbalance of minority classes and supplement their inadequate semantics, we present the first method for the semantic imbalance problem in imbalanced HINs named Semantic-aware Node Synthesis (SNS). By assessing the influence on minority classes, SNS adaptively selects the heterogeneous neighbor nodes and augments the network with synthetic nodes while preserving the minority semantics. In addition, we introduce two regularization approaches for HGNNs that constrain the representation of synthetic nodes from both semantic and class perspectives to effectively suppress the potential noises from synthetic nodes, facilitating more expressive embeddings for classification. The comprehensive experimental study demonstrates that SNS consistently outperforms existing methods by a large margin in different benchmark datasets.

arxiv情報

著者 Xinyi Gao,Wentao Zhang,Tong Chen,Junliang Yu,Hung Quoc Viet Nguyen,Hongzhi Yin
発行日 2023-08-15 09:43:14+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク