A Model-Agnostic Graph Neural Network for Integrating Local and Global Information

要約

グラフ ニューラル ネットワーク (GNN) は、グラフに焦点を当てたさまざまなタスクで有望なパフォーマンスを達成しました。
既存の GNN は成功にもかかわらず、2 つの重大な制限に悩まされています。それは、ブラック ボックスの性質による結果の解釈可能性の欠如と、さまざまな次数の表現を学習できないことです。
これらの問題に取り組むために、私たちは新しいモデル非依存グラフ ニューラル ネットワーク (MaGNet) フレームワークを提案します。このフレームワークは、さまざまな次数の情報を逐次統合し、高次の近傍から知識を抽出し、影響力のあるコンパクトなグラフを特定することで意味のある解釈可能な結果を​​提供できます。
構造物。
特に、MaGNet は 2 つのコンポーネントで構成されています。グラフ トポロジにおける複雑な関係の潜在表現の推定モデルと、影響力のあるノード、エッジ、および重要なノードの特徴を特定する解釈モデルです。
理論的には、経験的な Rademacher の複雑性を介して MaGNet の一般化誤差限界を確立し、層ごとの近傍混合を表現するその能力を実証します。
私たちは、いくつかの最先端の代替手段と比較して MaGNet の優れたパフォーマンスを実証するために、シミュレーション データを使用して包括的な数値研究を実施します。
さらに、脳活動データからタスクに不可欠な情報を抽出することを目的とした現実世界のケーススタディに MaGNet を適用し、科学研究の進歩におけるその有効性を強調します。

要約(オリジナル)

Graph Neural Networks (GNNs) have achieved promising performance in a variety of graph-focused tasks. Despite their success, existing GNNs suffer from two significant limitations: a lack of interpretability in results due to their black-box nature, and an inability to learn representations of varying orders. To tackle these issues, we propose a novel Model-agnostic Graph Neural Network (MaGNet) framework, which is able to sequentially integrate information of various orders, extract knowledge from high-order neighbors, and provide meaningful and interpretable results by identifying influential compact graph structures. In particular, MaGNet consists of two components: an estimation model for the latent representation of complex relationships under graph topology, and an interpretation model that identifies influential nodes, edges, and important node features. Theoretically, we establish the generalization error bound for MaGNet via empirical Rademacher complexity, and showcase its power to represent layer-wise neighborhood mixing. We conduct comprehensive numerical studies using simulated data to demonstrate the superior performance of MaGNet in comparison to several state-of-the-art alternatives. Furthermore, we apply MaGNet to a real-world case study aimed at extracting task-critical information from brain activity data, thereby highlighting its effectiveness in advancing scientific research.

arxiv情報

著者 Wenzhuo Zhou,Annie Qu,Keiland W. Cooper,Norbert Fortin,Babak Shahbaba
発行日 2023-10-02 00:38:01+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.LG, stat.ML パーマリンク