Exact Non-Oblivious Performance of Rademacher Random Embeddings

要約

このホワイト ペーパーでは、Rademacher ランダム予測のパフォーマンスを再検討し、入力データに関して数値的に鋭く、非忘却的な新しい統計的保証を確立します。
より具体的には、中心的な結果は、入力に対する Rademacher ランダム射影の Schur 凹面特性です。
これは、ランダムな投影のパフォーマンスに関する新しい幾何学的視点を提供すると同時に、以前の研究からの境界を定量的に改善します。
このより広範な結果の当然の帰結として、まばらな、または小さな広がりで分散されたデータで改善されたパフォーマンスが得られました。
この忘れられない分析は、以前の研究の手法と比較して斬新であり、理論と実践の間に頻繁に観察されるギャップを埋めます。
主な結果は、独立した利益の貢献であり、導関数ベースの基準のエレガントな代替手段である Schur 凹面特性を証明するための代数フレームワークを使用します。

要約(オリジナル)

This paper revisits the performance of Rademacher random projections, establishing novel statistical guarantees that are numerically sharp and non-oblivious with respect to the input data. More specifically, the central result is the Schur-concavity property of Rademacher random projections with respect to the inputs. This offers a novel geometric perspective on the performance of random projections, while improving quantitatively on bounds from previous works. As a corollary of this broader result, we obtained the improved performance on data which is sparse or is distributed with small spread. This non-oblivious analysis is a novelty compared to techniques from previous work, and bridges the frequently observed gap between theory and practise. The main result uses an algebraic framework for proving Schur-concavity properties, which is a contribution of independent interest and an elegant alternative to derivative-based criteria.

arxiv情報

著者 Maciej Skorski,Alessandro Temperoni
発行日 2023-03-21 11:45:27+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク