Triple Component Matrix Factorization: Untangling Global, Local, and Noisy Components

要約

この研究では、ノイズの多いデータからの共通および固有の特徴抽出の問題を研究します。
N 個の異なる関連ソースからの N 個の観測行列が、まばらで潜在的に大きなノイズによって破損した場合、これらのノイズの多い観測値から共通かつ固有の成分を回復できるでしょうか?
推定するパラメータの数は観測値の約 3 倍であるため、これは困難なタスクです。
困難にもかかわらず、私たちは 3 つの成分を正確に回復するために、トリプル成分行列因数分解 (TCMF) と呼ばれる直観的な交互最小化アルゴリズムを提案します。
TCMF は 2 つの顕著な特徴により、既存の文学作品とは区別されます。
第一に、TCMF は、ノイズの多い観測を証明して与えられた 3 つの成分を分離する原理的な方法です。
第 2 に、TCMF の計算の大部分を分散できます。
技術的な面では、この問題を制約付き非凸非滑らかな最適化問題として定式化します。
問題の複雑な性質にもかかわらず、対応するカルシュ・クーン・タッカー条件を解くことによって、その解のテイラー級数特性を提供します。
この特性評価を使用すると、交互最小化アルゴリズムが各反復で大幅に進歩し、線形速度でグラウンド トゥルースに収束することを示すことができます。
ビデオ セグメンテーションと異常検出の数値実験により、TCMF の優れた特徴抽出能力が明らかになりました。

要約(オリジナル)

In this work, we study the problem of common and unique feature extraction from noisy data. When we have N observation matrices from N different and associated sources corrupted by sparse and potentially gross noise, can we recover the common and unique components from these noisy observations? This is a challenging task as the number of parameters to estimate is approximately thrice the number of observations. Despite the difficulty, we propose an intuitive alternating minimization algorithm called triple component matrix factorization (TCMF) to recover the three components exactly. TCMF is distinguished from existing works in literature thanks to two salient features. First, TCMF is a principled method to separate the three components given noisy observations provably. Second, the bulk of the computation in TCMF can be distributed. On the technical side, we formulate the problem as a constrained nonconvex nonsmooth optimization problem. Despite the intricate nature of the problem, we provide a Taylor series characterization of its solution by solving the corresponding Karush-Kuhn-Tucker conditions. Using this characterization, we can show that the alternating minimization algorithm makes significant progress at each iteration and converges into the ground truth at a linear rate. Numerical experiments in video segmentation and anomaly detection highlight the superior feature extraction abilities of TCMF.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google