l1-norm regularized l1-norm best-fit lines

要約

この研究では、スパースでロバストな 1 次元部分空間を推定するための最適化フレームワークを提案します。
私たちの目的は、l1 ノルム基準の観点から、表現誤差とペナルティの両方を最小限に抑えることです。
問題が NP 困難であることを考慮して、線形緩和ベースのアプローチを導入します。
さらに、単純な比率とソート技術を利用した新しいフィッティング手順を紹介します。
提案されたアルゴリズムは、最悪の場合の時間計算量が $O(n^2 m \log n)$ であることを示し、場合によっては、スパースでロバストな部分空間の全体的な最適性を達成し、それによって多項式の時間効率を示します。
既存の方法論と比較して、提案されたアルゴリズムは不一致が最も低い部分空間を見つけ、スパース性と適合性の間のよりスムーズなトレードオフを提供します。
そのアーキテクチャはスケーラビリティを実現しており、CPU バージョンと比較して 2000×2000 の行列の計算速度が 16 倍向上していることが証明されています。
さらに、この方法は、初期化からの独立性、決定論的で複製可能な手順など、いくつかの利点によって区別されます。
さらに、この方法は、初期化からの独立性、決定論的で複製可能な手順など、いくつかの利点によって区別されます。
実際の例は、有意義なスパース性を達成する際のアルゴリズムの有効性を実証し、さまざまなドメインにわたってアルゴリズムが正確かつ有用に適用されることを強調しています。

要約(オリジナル)

In this work, we propose an optimization framework for estimating a sparse robust one-dimensional subspace. Our objective is to minimize both the representation error and the penalty, in terms of the l1-norm criterion. Given that the problem is NP-hard, we introduce a linear relaxation-based approach. Additionally, we present a novel fitting procedure, utilizing simple ratios and sorting techniques. The proposed algorithm demonstrates a worst-case time complexity of $O(n^2 m \log n)$ and, in certain instances, achieves global optimality for the sparse robust subspace, thereby exhibiting polynomial time efficiency. Compared to extant methodologies, the proposed algorithm finds the subspace with the lowest discordance, offering a smoother trade-off between sparsity and fit. Its architecture affords scalability, evidenced by a 16-fold improvement in computational speeds for matrices of 2000×2000 over CPU version. Furthermore, this method is distinguished by several advantages, including its independence from initialization and deterministic and replicable procedures. Furthermore, this method is distinguished by several advantages, including its independence from initialization and deterministic and replicable procedures. The real-world example demonstrates the effectiveness of algorithm in achieving meaningful sparsity, underscoring its precise and useful application across various domains.

arxiv情報

著者 Xiao Ling,Paul Brooks
発行日 2024-03-06 17:16:38+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.OC, stat.ML パーマリンク