A Novel Gaussian Min-Max Theorem and its Applications

要約

ゴードンによる有名な結果により、特定の不等式条件が満たされた場合に 2 つのガウス過程の最小-最大動作を比較できるようになります。
この結果の結果には、高次元統計、機械学習、非滑らかな最適化、および信号処理に広範な影響を及ぼしたガウス最小最大 (GMT) および凸ガウス最小最大 (CGMT) 定理が含まれます。
どちらの定理も、Slepian によって最初に特定された、ゴードンの比較不等式を満たす 1 対のガウス過程に依存しています。
この論文では、そのような新しいペアを特定します。
結果として得られる定理は、古典的な GMT 定理と CGMT 定理を、一次プロセスの基礎となるガウス行列に iid 行がある場合から、独立しているが同一に分布していない行がある場合まで拡張します。
新しい CGMT は、一般的な混合ガウス モデルの二値分類だけでなく、複数ソースのガウス回帰の問題にも適用されます。

要約(オリジナル)

A celebrated result by Gordon allows one to compare the min-max behavior of two Gaussian processes if certain inequality conditions are met. The consequences of this result include the Gaussian min-max (GMT) and convex Gaussian min-max (CGMT) theorems which have had far-reaching implications in high-dimensional statistics, machine learning, non-smooth optimization, and signal processing. Both theorems rely on a pair of Gaussian processes, first identified by Slepian, that satisfy Gordon’s comparison inequalities. In this paper, we identify such a new pair. The resulting theorems extend the classical GMT and CGMT Theorems from the case where the underlying Gaussian matrix in the primary process has iid rows to where it has independent but non-identically-distributed ones. The new CGMT is applied to the problems of multi-source Gaussian regression, as well as to binary classification of general Gaussian mixture models.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google