TREE-G: Decision Trees Contesting Graph Neural Networks

要約

表形式のデータを扱う場合、これらのデータ型に対する精度の高さ、適用の容易さ、および説明可能性の特性により、デシジョン ツリーに基づくモデルが一般的な選択肢となります。
ただし、グラフ構造データに関しては、トポロジ情報とグラフの頂点で利用可能な表形式データを組み込む方法で、それらを効果的に適用する方法は明確ではありません。
この課題に対処するために、TREE-G を導入します。
TREE-G は、グラフ データに特化した新しい分割関数を導入することにより、標準的なデシジョン ツリーを修正します。
この分割関数は、ノードの機能とトポロジー情報を組み込むだけでなく、分割ノードが以前の分割で計算された情報を使用できるようにする新しいポインター メカニズムも使用します。
したがって、分割関数は予測タスクと手元のグラフに適応します。
私たちは TREE-G の理論的特性を分析し、複数のグラフと頂点予測ベンチマークでその利点を経験的に実証します。
これらの実験では、TREE-G は他のツリーベースのモデルよりも一貫して優れたパフォーマンスを示し、多くの場合、グラフ ニューラル ネットワーク (GNN) やグラフ カーネルなどの他のグラフ学習アルゴリズムよりも優れており、場合によっては大差でパフォーマンスを上回っています。
さらに、TREE-Gs モデルとその予測を説明および視覚化することができます。

要約(オリジナル)

When dealing with tabular data, models based on decision trees are a popular choice due to their high accuracy on these data types, their ease of application, and explainability properties. However, when it comes to graph-structured data, it is not clear how to apply them effectively, in a way that incorporates the topological information with the tabular data available on the vertices of the graph. To address this challenge, we introduce TREE-G. TREE-G modifies standard decision trees, by introducing a novel split function that is specialized for graph data. Not only does this split function incorporate the node features and the topological information, but it also uses a novel pointer mechanism that allows split nodes to use information computed in previous splits. Therefore, the split function adapts to the predictive task and the graph at hand. We analyze the theoretical properties of TREE-G and demonstrate its benefits empirically on multiple graph and vertex prediction benchmarks. In these experiments, TREE-G consistently outperforms other tree-based models and often outperforms other graph-learning algorithms such as Graph Neural Networks (GNNs) and Graph Kernels, sometimes by large margins. Moreover, TREE-Gs models and their predictions can be explained and visualized

arxiv情報

著者 Maya Bechler-Speicher,Amir Globerson,Ran Gilad-Bachrach
発行日 2023-09-08 13:59:01+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG パーマリンク