Wasserstein Nonnegative Tensor Factorization with Manifold Regularization

要約

非負テンソル分解(NTF)は、非負の高次データから固有構造情報を保持した特徴抽出とパーツベース表現のための重要なツールとなっている。しかし、従来のNTF法はユークリッド発散やカルバック・ライブラー発散を損失関数として用いており、各特徴を等しく扱うため、特徴の側面情報が無視されている。特徴量の相関情報とサンプルの多様体情報を利用するために、入力テンソルデータの分布と再構成分布の間のワッセルシュタイン距離を最小化するワッセルシュタイン多様体非負テンソル分解(WMNTF)を導入する。非負行列分解(NMF)でもワッセルシュタイン距離に関する研究がいくつか提案されているが、高次データの空間構造情報を無視したものである。本研究ではWasserstein距離(別名Earth Mover距離またはOptimal Transport距離)をメトリックとして用い、潜在因子にグラフ正則化を加える。実験結果は、提案手法が他のNMFやNTF手法と比較して有効であることを示している。

要約(オリジナル)

Nonnegative tensor factorization (NTF) has become an important tool for feature extraction and part-based representation with preserved intrinsic structure information from nonnegative high-order data. However, the original NTF methods utilize Euclidean or Kullback-Leibler divergence as the loss function which treats each feature equally leading to the neglect of the side-information of features. To utilize correlation information of features and manifold information of samples, we introduce Wasserstein manifold nonnegative tensor factorization (WMNTF), which minimizes the Wasserstein distance between the distribution of input tensorial data and the distribution of reconstruction. Although some researches about Wasserstein distance have been proposed in nonnegative matrix factorization (NMF), they ignore the spatial structure information of higher-order data. We use Wasserstein distance (a.k.a Earth Mover’s distance or Optimal Transport distance) as a metric and add a graph regularizer to a latent factor. Experimental results demonstrate the effectiveness of the proposed method compared with other NMF and NTF methods.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL