Multiscale Hodge Scattering Networks for Data Analysis

要約

私たちは、単純な複合体で測定された信号のための新しい散乱ネットワークを提案します。これを \emph{マルチスケール ホッジ散乱ネットワーク} (MHSN) と呼びます。
私たちの構築は、単純複素数のマルチスケール基底辞書、つまり $\kappa$-GHWT と $\kappa$-HGLET に基づいています。これは、次元 $\kappa \in \mathbb{N}$ の単純複素数用に最近開発したものです。
ノードベースの一般化ハール・ウォルシュ変換 (GHWT) と階層グラフのラプラシアン固有変換を一般化することによって与えられた単純複素数
(HGLET)。
$\kappa$-GHWT と $\kappa$-HGLET はどちらも、マルチスケール基底ベクトルと指定された信号の対応する展開係数の冗長セット (つまり、辞書) を形成します。
私たちの MHSN は、畳み込みニューラル ネットワーク (CNN) に似た階層構造を使用して、辞書係数の係数のモーメントをカスケードします。
結果として得られる特徴は、シンプライスの並べ替え (つまり、基礎となるグラフのノードの置換) に対して不変です。
重要なのは、MHSN でマルチスケール基底辞書を使用すると、CNN のローカル プーリングに似た自然なプーリング操作が可能になり、ローカルまたはスケールごとに実行できることです。
これらのプーリング操作は、Morlet ウェーブレットに基づく従来の散乱ネットワークと拡散ウェーブレットに基づく幾何学的散乱ネットワークの両方で定義するのが困難です。
その結果、非常に単純な機械学習手法 (つまり、ロジスティック回帰またはサポート ベクター マシン) とともに使用できる、記述的でありながら堅牢な特徴の豊富なセットを抽出して、はるかに少ないパラメータで高精度の分類システムを実現することができます。
最新のグラフ ニューラル ネットワークよりもトレーニングします。
最後に、シグナル分類、ドメイン (グラフ/シンプレックス) 分類、分子動力学予測という 3 つの異なるタイプの問題における MHSN の有用性を実証します。

要約(オリジナル)

We propose new scattering networks for signals measured on simplicial complexes, which we call \emph{Multiscale Hodge Scattering Networks} (MHSNs). Our construction is based on multiscale basis dictionaries on simplicial complexes, i.e., the $\kappa$-GHWT and $\kappa$-HGLET, which we recently developed for simplices of dimension $\kappa \in \mathbb{N}$ in a given simplicial complex by generalizing the node-based Generalized Haar-Walsh Transform (GHWT) and Hierarchical Graph Laplacian Eigen Transform (HGLET). The $\kappa$-GHWT and the $\kappa$-HGLET both form redundant sets (i.e., dictionaries) of multiscale basis vectors and the corresponding expansion coefficients of a given signal. Our MHSNs use a layered structure analogous to a convolutional neural network (CNN) to cascade the moments of the modulus of the dictionary coefficients. The resulting features are invariant to reordering of the simplices (i.e., node permutation of the underlying graphs). Importantly, the use of multiscale basis dictionaries in our MHSNs admits a natural pooling operation that is akin to local pooling in CNNs, and which may be performed either locally or per-scale. These pooling operations are harder to define in both traditional scattering networks based on Morlet wavelets, and geometric scattering networks based on Diffusion Wavelets. As a result, we are able to extract a rich set of descriptive yet robust features that can be used along with very simple machine learning methods (i.e., logistic regression or support vector machines) to achieve high-accuracy classification systems with far fewer parameters to train than most modern graph neural networks. Finally, we demonstrate the usefulness of our MHSNs in three distinct types of problems: signal classification, domain (i.e., graph/simplex) classification, and molecular dynamics prediction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google