Investigating the Interplay between Features and Structures in Graph Learning

要約

過去には、同性愛と異性愛の間の二分法が、ディープ グラフ ネットワークの帰納的バイアスをより深く理解するための研究貢献を促してきました。
特に、同質性はメッセージ受け渡し方法のより良いノード分類予測と強く相関すると考えられていました。
しかし最近では、グラフが完全に異好性であるにもかかわらず、パフォーマンスは高いままであるノード分類タスクを構築できるため、そのような二分法は単純すぎると研究者らが指摘しました。
これらの研究のほとんどは、グラフ構造がいつ役立つかを理解するための新しい定量的メトリクスも提案しています。これは、ノードの特徴とターゲット ラベルの間の相関関係を暗黙的または明示的に仮定します。
私たちの研究では、アドホックな問題を構築して研究できるようにするノード分類タスクの 2 つの生成プロセスを形式化することで、この強い仮定が当てはまらない場合に何が起こるかを経験的に調査しています。
ターゲット ラベルに対するノード フィーチャの影響を定量的に測定するために、フィーチャ インフォマティブネスと呼ばれるメトリクスも使用します。
6 つの合成タスクを構築し、構造に依存しないモデルを含む 6 つのモデルのパフォーマンスを評価します。
私たちの調査結果は、上記の仮定を緩和すると、以前に定義された指標が適切ではないことを明らかにしました。
ワークショップへの私たちの貢献は、この分野の理解を進めるのに役立つ可能性のある新しい研究結果を提示することを目的としています。

要約(オリジナル)

In the past, the dichotomy between homophily and heterophily has inspired research contributions toward a better understanding of Deep Graph Networks’ inductive bias. In particular, it was believed that homophily strongly correlates with better node classification predictions of message-passing methods. More recently, however, researchers pointed out that such dichotomy is too simplistic as we can construct node classification tasks where graphs are completely heterophilic but the performances remain high. Most of these works have also proposed new quantitative metrics to understand when a graph structure is useful, which implicitly or explicitly assume the correlation between node features and target labels. Our work empirically investigates what happens when this strong assumption does not hold, by formalising two generative processes for node classification tasks that allow us to build and study ad-hoc problems. To quantitatively measure the influence of the node features on the target labels, we also use a metric we call Feature Informativeness. We construct six synthetic tasks and evaluate the performance of six models, including structure-agnostic ones. Our findings reveal that previously defined metrics are not adequate when we relax the above assumption. Our contribution to the workshop aims at presenting novel research findings that could help advance our understanding of the field.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google