Stability to Deformations of Manifold Filters and Manifold Neural Networks

要約

この論文では、マニホールド (M) 畳み込みフィルターとニューラル ネットワーク (NN) を定義し、研究します。
\emph{Manifold} フィルターと MNN はラプラス ベルトラミ演算子の指数関数の観点から定義されており、多様体がサンプリングされるときに \emph{graph} (G) フィルターとニューラル ネットワーク (NN) が離散近似として復元されるようなものです。
これらのフィルターは、グラフ フィルターのスペクトル表現と連続時間における標準畳み込みフィルターの周波数応答の両方を一般化したスペクトル表現を許可します。
この論文の主な技術的貢献は、多様体の変形を滑らかにするための多様体フィルターと MNN の安定性を解析することです。
この分析は、グラフ フィルターと GNN の既知の安定性特性を一般化するものであり、連続時間における標準畳み込みフィルターとニューラル ネットワークの既知の安定性特性も一般化します。
この分析から得られる最も重要な観察結果は、グラフ フィルターや標準の連続時間フィルターと同様に、マニホールド フィルターでは、変形が存在する場合に高周波成分を識別するのが難しいということです。
これは、多様体、グラフ、または連続時間ニューラル ネットワークを使用することで改善できる課題です。
この分析の最も重要な実際的な結果は、大規模なグラフにおけるグラフ フィルターと GNN の動作を明らかにすることです。

要約(オリジナル)

The paper defines and studies manifold (M) convolutional filters and neural networks (NNs). \emph{Manifold} filters and MNNs are defined in terms of the Laplace-Beltrami operator exponential and are such that \emph{graph} (G) filters and neural networks (NNs) are recovered as discrete approximations when the manifold is sampled. These filters admit a spectral representation which is a generalization of both the spectral representation of graph filters and the frequency response of standard convolutional filters in continuous time. The main technical contribution of the paper is to analyze the stability of manifold filters and MNNs to smooth deformations of the manifold. This analysis generalizes known stability properties of graph filters and GNNs and it is also a generalization of known stability properties of standard convolutional filters and neural networks in continuous time. The most important observation that follows from this analysis is that manifold filters, same as graph filters and standard continuous time filters, have difficulty discriminating high frequency components in the presence of deformations. This is a challenge that can be ameliorated with the use of manifold, graph, or continuous time neural networks. The most important practical consequence of this analysis is to shed light on the behavior of graph filters and GNNs in large scale graphs.

arxiv情報

著者 Zhiyang Wang,Luana Ruiz,Alejandro Ribeiro
発行日 2023-09-12 15:45:20+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG パーマリンク