Entropy Aware Message Passing in Graph Neural Networks

要約

ディープ グラフ ニューラル ネットワークは過度の平滑化に苦労します。
この論文では、この問題を軽減するために設計された、物理学にヒントを得た新しい GNN モデルを紹介します。
私たちのアプローチは既存の GNN アーキテクチャと統合されており、エントロピーを意識したメッセージ パッシング用語が導入されています。
この項は、ノードの集約中にエントロピーに対して勾配上昇を実行し、それによって埋め込み内のある程度のエントロピーを保存します。
私たちは、さまざまな一般的なデータセットにわたって、最先端の GNN とモデルの比較分析を実行します。

要約(オリジナル)

Deep Graph Neural Networks struggle with oversmoothing. This paper introduces a novel, physics-inspired GNN model designed to mitigate this issue. Our approach integrates with existing GNN architectures, introducing an entropy-aware message passing term. This term performs gradient ascent on the entropy during node aggregation, thereby preserving a certain degree of entropy in the embeddings. We conduct a comparative analysis of our model against state-of-the-art GNNs across various common datasets.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google