CSGNN: Conquering Noisy Node labels via Dynamic Class-wise Selection

要約

グラフ ニューラル ネットワーク (GNN) は、グラフの表現学習のための強力なツールとして登場しましたが、特にデータが不足している場合や不均衡な場合には、過学習やラベル ノイズの問題が発生することがよくあります。
単一ノードの信頼性に依存する以前の手法のパラダイムとは異なり、この論文では、CSGNN と呼ばれる、グラフ ニューラル ネットワークの新しいクラスごとの選択を紹介します。これは、近隣集約潜在空間を使用して、異なるノード間で信頼できるノードを適応的に選択します。
クラス。
具体的には、1) クラスの不均衡の問題に取り組むために、クラスタリング技術を活用して、近隣集約された信頼度に基づいてクリーンなノードを識別する動的なクラスごとの選択メカニズムを導入します。
このようにして、私たちのアプローチは、グローバルしきい値技術によくある偏ったサンプリングの落とし穴を回避できます。
2) ノイズの多いラベルの問題を軽減するために、CSGNN は記憶効果の概念に基づいて構築されており、ノイズの多いノードよりもクリーンなノードからの学習を優先するため、ラベル ノイズを軽減しながらモデルのパフォーマンスを反復的に向上させます。
広範な実験を通じて、CSGNN が有効性と堅牢性の両方の点で最先端の方法よりも優れていることを実証しました。

要約(オリジナル)

Graph Neural Networks (GNNs) have emerged as a powerful tool for representation learning on graphs, but they often suffer from overfitting and label noise issues, especially when the data is scarce or imbalanced. Different from the paradigm of previous methods that rely on single-node confidence, in this paper, we introduce a novel Class-wise Selection for Graph Neural Networks, dubbed CSGNN, which employs a neighbor-aggregated latent space to adaptively select reliable nodes across different classes. Specifically, 1) to tackle the class imbalance issue, we introduce a dynamic class-wise selection mechanism, leveraging the clustering technique to identify clean nodes based on the neighbor-aggregated confidences. In this way, our approach can avoid the pitfalls of biased sampling which is common with global threshold techniques. 2) To alleviate the problem of noisy labels, built on the concept of the memorization effect, CSGNN prioritizes learning from clean nodes before noisy ones, thereby iteratively enhancing model performance while mitigating label noise. Through extensive experiments, we demonstrate that CSGNN outperforms state-of-the-art methods in terms of both effectiveness and robustness.

arxiv情報

著者 Yifan Li,Zhen Tan,Kai Shu,Zongsheng Cao,Yu Kong,Huan Liu
発行日 2023-12-14 17:17:52+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク