Over-Squashing in Graph Neural Networks: A Comprehensive survey

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造データの機械学習に革命をもたらし、複雑な関係を効果的に捕捉します。
彼らは相互接続されたノードを通じて情報を広めますが、長距離の相互作用は「過剰スカッシュ」として知られる課題に直面しています。
この調査では、長距離の情報伝達が妨げられ、複雑な長距離インタラクションに依存するタスクに影響を与える、グラフ ニューラル ネットワーク (GNN) における過剰スカッシングの課題を詳しく調査しています。
過剰な潰しの原因、結果、緩和戦略を包括的に調査します。
グラフの再配線、新しい正規化、スペクトル分析、曲率ベースの戦略など、さまざまな方法論が、それらのトレードオフと有効性に焦点を当ててレビューされます。
この調査では、過剰な潰しと過剰な平滑化などの他の GNN 制限との間の相互作用についても議論し、ノードおよびグラフ レベルのタスクでこれらの問題に対処するように設計されたモデルの分類を提供します。
パフォーマンス評価のためのベンチマーク データセットも詳細に記載されているため、この調査は GNN 分野の研究者や実務者にとって貴重なリソースになります。

要約(オリジナル)

Graph Neural Networks (GNNs) revolutionize machine learning for graph-structured data, effectively capturing complex relationships. They disseminate information through interconnected nodes, but long-range interactions face challenges known as ‘over-squashing’. This survey delves into the challenge of over-squashing in Graph Neural Networks (GNNs), where long-range information dissemination is hindered, impacting tasks reliant on intricate long-distance interactions. It comprehensively explores the causes, consequences, and mitigation strategies for over-squashing. Various methodologies are reviewed, including graph rewiring, novel normalization, spectral analysis, and curvature-based strategies, with a focus on their trade-offs and effectiveness. The survey also discusses the interplay between over-squashing and other GNN limitations, such as over-smoothing, and provides a taxonomy of models designed to address these issues in node and graph-level tasks. Benchmark datasets for performance evaluation are also detailed, making this survey a valuable resource for researchers and practitioners in the GNN field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google