SQ Lower Bounds for Non-Gaussian Component Analysis with Weaker Assumptions

要約

統計クエリ (SQ) モデルにおける非ガウス成分分析 (NGCA) の複雑さを研究します。
これまでの研究では、このタスクの SQ 下限を証明するための一般的な方法論が開発され、これは幅広い状況に適用できました。
特に、特定の条件を満たす任意の一変量分布 $A$ について、標準多変量ガウス分布と、ランダムな隠れ方向で $A$ のように振る舞い、直交補数で標準ガウス分布と同様に動作する分布とを区別することが SQ であることが知られていました。
-難しい。
必要な条件は、(1) $A$ が標準単変量ガウス分布の多くの低次モーメントと一致すること、(2) 標準ガウス分布に対する $A$ のカイ 2 乗ノルムが有限であることです。
モーメントマッチング条件は硬度に必要ですが、カイ二乗条件は技術的な理由からのみ必要でした。
この研究では、後者の条件が実際には必要ではないことを証明します。
特に、モーメントマッチング条件のみの下で、NGCA の最適に近い SQ 下限を証明します。
私たちの結果は、当然のことながら、隠れた部分空間の設定に一般化されます。
一般的な SQ 下限を活用して、既存の手法では次善の保証、または空虚な保証しか提供していない具体的な推定タスクの範囲に対して最適に近い SQ 下限を取得します。

要約(オリジナル)

We study the complexity of Non-Gaussian Component Analysis (NGCA) in the Statistical Query (SQ) model. Prior work developed a general methodology to prove SQ lower bounds for this task that have been applicable to a wide range of contexts. In particular, it was known that for any univariate distribution $A$ satisfying certain conditions, distinguishing between a standard multivariate Gaussian and a distribution that behaves like $A$ in a random hidden direction and like a standard Gaussian in the orthogonal complement, is SQ-hard. The required conditions were that (1) $A$ matches many low-order moments with the standard univariate Gaussian, and (2) the chi-squared norm of $A$ with respect to the standard Gaussian is finite. While the moment-matching condition is necessary for hardness, the chi-squared condition was only required for technical reasons. In this work, we establish that the latter condition is indeed not necessary. In particular, we prove near-optimal SQ lower bounds for NGCA under the moment-matching condition only. Our result naturally generalizes to the setting of a hidden subspace. Leveraging our general SQ lower bound, we obtain near-optimal SQ lower bounds for a range of concrete estimation tasks where existing techniques provide sub-optimal or even vacuous guarantees.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google