Future Directions in the Theory of Graph Machine Learning

要約

グラフに関する機械学習、特にグラフ ニューラル ネットワーク (GNN) を使用したものへの関心は、生命科学から社会科学や工学科学に至るまで、幅広い分野にわたってグラフ データが幅広く利用できるため、関心が高まっています。
実際の成功にもかかわらず、GNN の特性に関する理論的な理解は依然として非常に不完全です。
最近の理論的進歩は、主に組み合わせ手法を使用して、GNN の粗粒度の表現力を解明することに主に焦点を当てています。
ただし、これらの研究は、特に確率的一次最適化手法でトレーニングされた場合の GNN の一般化動作の理解において、実践と完全に一致しているわけではありません。
このポジションペーパーでは、グラフ機械学習コミュニティは、表現力、一般化、最適化の相互作用をより徹底的に理解することに焦点を当て、グラフ機械学習のバランスの取れた理論を開発することに注意を移す必要があると主張します。

要約(オリジナル)

Machine learning on graphs, especially using graph neural networks (GNNs), has seen a surge in interest due to the wide availability of graph data across a broad spectrum of disciplines, from life to social and engineering sciences. Despite their practical success, our theoretical understanding of the properties of GNNs remains highly incomplete. Recent theoretical advancements primarily focus on elucidating the coarse-grained expressive power of GNNs, predominantly employing combinatorial techniques. However, these studies do not perfectly align with practice, particularly in understanding the generalization behavior of GNNs when trained with stochastic first-order optimization techniques. In this position paper, we argue that the graph machine learning community needs to shift its attention to developing a balanced theory of graph machine learning, focusing on a more thorough understanding of the interplay of expressive power, generalization, and optimization.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google