On the Optimality of Misspecified Spectral Algorithms

要約

誤仕様化スペクトルアルゴリズム問題では、研究者は通常、地下真関数$f_{rho}^{*}を仮定する。\再現カーネル・ヒルベルト空間(RKHS)$mathcal{H}$のあまり滑らかでない補間空間$f_{rho}^{*}を[$mathcal{H}]^{s}$の$sが(0,1)$であると仮定する。既存のminimax最適結果は、$|f_{rho}}^{*}}}|_{L^{infty}} \alpha_{0}$が必要である（ここで、$alpha_{0}}in (0,1)$は埋め込み指数で、$mathcal{H}$に依存する定数）。すべての$sin (0,1)$に対してスペクトル・アルゴリズムが最適かどうかは、何年も続く未解決の問題である。本論文では、$alpha_{0}-frac{1}{beta} < s < 1$において、スペクトル・アルゴリズムが最小最適であることを示す。また、埋め込み指数が$ \alpha_0 = \frac{1}{beta} $を満たすRKHSのクラスをいくつか与える。 したがって、スペクトルアルゴリズムは、これらのRKHS上のすべての$sin (0,1)$ に対してminimax最適である。

要約(オリジナル)

In the misspecified spectral algorithms problem, researchers usually assume the underground true function $f_{\rho}^{*} \in [\mathcal{H}]^{s}$, a less-smooth interpolation space of a reproducing kernel Hilbert space (RKHS) $\mathcal{H}$ for some $s\in (0,1)$. The existing minimax optimal results require $\|f_{\rho}^{*}\|_{L^{\infty}}<\infty$ which implicitly requires $s > \alpha_{0}$ where $\alpha_{0}\in (0,1)$ is the embedding index, a constant depending on $\mathcal{H}$. Whether the spectral algorithms are optimal for all $s\in (0,1)$ is an outstanding problem lasting for years. In this paper, we show that spectral algorithms are minimax optimal for any $\alpha_{0}-\frac{1}{\beta} < s < 1$, where $\beta$ is the eigenvalue decay rate of $\mathcal{H}$. We also give several classes of RKHSs whose embedding index satisfies $ \alpha_0 = \frac{1}{\beta} $. Thus, the spectral algorithms are minimax optimal for all $s\in (0,1)$ on these RKHSs.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL