要約
本論文では、Highly Adaptive Ridge (HAR)を提案する。これは、平方可積分断面導関数を持つ右連続関数のクラスにおいて、$n^{-1/3}$無次元L2収束率を達成する回帰手法である。これはノンパラメトリックな大きな関数クラスで、特に表データに適している。HARはまさに、飽和0次テンソル積スプライン基底展開に基づく特定のデータ適応カーネルを持つカーネルリッジ回帰である。シミュレーションと実データを用いて我々の理論を確認する。特に小さなデータセットにおいて、最新のアルゴリズムよりも優れた性能を実証する。
要約(オリジナル)
In this paper we propose the Highly Adaptive Ridge (HAR): a regression method that achieves a $n^{-1/3}$ dimension-free L2 convergence rate in the class of right-continuous functions with square-integrable sectional derivatives. This is a large nonparametric function class that is particularly appropriate for tabular data. HAR is exactly kernel ridge regression with a specific data-adaptive kernel based on a saturated zero-order tensor-product spline basis expansion. We use simulation and real data to confirm our theory. We demonstrate empirical performance better than state-of-the-art algorithms for small datasets in particular.
arxiv情報
著者 | Alejandro Schuler,Alexander Hagemeister,Mark van der Laan |
発行日 | 2024-10-03 17:06:06+00:00 |
arxivサイト | arxiv_id(pdf) |