How Expressive are Graph Neural Networks in Recommendation?

要約

グラフ ニューラル ネットワーク (GNN) は、グラフ内のユーザー項目の協調フィルタリング信号を活用する、レコメンデーションを含むさまざまなグラフ学習タスクで優れたパフォーマンスを実証しています。
ただし、最先端のレコメンダー モデルにおける経験的な有効性にもかかわらず、その機能を理論的に定式化したものはほとんどありません。
最近の研究では、一般的な GNN の表現力が調査されており、メッセージ パッシング GNN の強力さはせいぜいヴァイスフェイラー・レーマン テストと同程度であり、ランダム ノード初期化と組み合わせた GNN は普遍的であることが実証されています。
それにもかかわらず、GNN の「表現力」の概念は依然として曖昧に定義されています。
既存の研究のほとんどは、表現力の指標としてグラフ同型性テストを採用していますが、このグラフレベルのタスクでは、近さの異なるノードを区別することが目的であるため、推奨におけるモデルの能力を効果的に評価できない可能性があります。
この論文では、グラフ同型性 (グラフ レベル)、ノード自己同型性 (ノード レベル)、位相的近さ (リンク レベル) という 3 つのレベルの表現力メトリクスを考慮して、推奨における GNN の表現力の包括的な理論分析を提供します。
我々は、ノード間の構造的距離を捕捉する GNN の能力を評価するためのトポロジー的近さメトリクスを提案します。これは推奨の目的と密接に一致します。
推奨パフォーマンスの評価におけるこの新しいメトリクスの有効性を検証するために、新しいメトリクスで最適であり、適切な変更を加えればノードレベルのメトリクスでも最適化できる学習不要の GNN アルゴリズムを導入します。
私たちは、推奨タスクにおける新しいメトリクスの説明可能性を調査するために、提案されたアルゴリズムをさまざまな種類の最先端の GNN モデルと比較する広範な実験を実施します。
再現性を高めるために、実装コードは https://github.com/HKUDS/GTE で入手できます。

要約(オリジナル)

Graph Neural Networks (GNNs) have demonstrated superior performance on various graph learning tasks, including recommendation, where they leverage user-item collaborative filtering signals in graphs. However, theoretical formulations of their capability are scarce, despite their empirical effectiveness in state-of-the-art recommender models. Recently, research has explored the expressiveness of GNNs in general, demonstrating that message passing GNNs are at most as powerful as the Weisfeiler-Lehman test, and that GNNs combined with random node initialization are universal. Nevertheless, the concept of ‘expressiveness’ for GNNs remains vaguely defined. Most existing works adopt the graph isomorphism test as the metric of expressiveness, but this graph-level task may not effectively assess a model’s ability in recommendation, where the objective is to distinguish nodes of different closeness. In this paper, we provide a comprehensive theoretical analysis of the expressiveness of GNNs in recommendation, considering three levels of expressiveness metrics: graph isomorphism (graph-level), node automorphism (node-level), and topological closeness (link-level). We propose the topological closeness metric to evaluate GNNs’ ability to capture the structural distance between nodes, which aligns closely with the objective of recommendation. To validate the effectiveness of this new metric in evaluating recommendation performance, we introduce a learning-less GNN algorithm that is optimal on the new metric and can be optimal on the node-level metric with suitable modification. We conduct extensive experiments comparing the proposed algorithm against various types of state-of-the-art GNN models to explore the explainability of the new metric in the recommendation task. For reproducibility, implementation codes are available at https://github.com/HKUDS/GTE.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google