Rewiring Techniques to Mitigate Oversquashing and Oversmoothing in GNNs: A Survey

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ構造のデータから学習するための強力なツールですが、その有効性は、2 つの重要な課題によって制限されることがよくあります。1 つは、遠くのノードからの情報が過剰に圧縮されることで重大な情報損失が発生するオーバースカッシング、もう 1 つはオーバースムージングです。
メッセージパッシングの反復によりノード表現が均一化され、意味のある区別が曖昧になります。
これらの問題は、基礎となるグラフ構造に本質的に関連しており、情報の流れを妨げ、GNN の表現力を制約します。
この調査では、情報の拡散を強化するためにグラフ トポロジを変更することで、これらの構造的ボトルネックに対処するように設計された手法の一種であるグラフ再配線手法を調査します。
私たちは、最先端の再配線アプローチの包括的なレビューを提供し、その理論的基礎、実際の実装、パフォーマンスのトレードオフを詳しく掘り下げます。

要約(オリジナル)

Graph Neural Networks (GNNs) are powerful tools for learning from graph-structured data, but their effectiveness is often constrained by two critical challenges: oversquashing, where the excessive compression of information from distant nodes results in significant information loss, and oversmoothing, where repeated message-passing iterations homogenize node representations, obscuring meaningful distinctions. These issues, intrinsically linked to the underlying graph structure, hinder information flow and constrain the expressiveness of GNNs. In this survey, we examine graph rewiring techniques, a class of methods designed to address these structural bottlenecks by modifying graph topology to enhance information diffusion. We provide a comprehensive review of state-of-the-art rewiring approaches, delving into their theoretical underpinnings, practical implementations, and performance trade-offs.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google