Exploring Local Norms in Exp-concave Statistical Learning

要約

凸クラスで経験的リスク最小化を使用して、経験-凹損失を伴う確率的凸最適化の問題を検討します。
以前のいくつかの研究で提起された質問に答えるために、広範な種類の有界経験値凹損失に対して有効な $O( d / n + \log( 1 / \delta) / n )$ の超過リスク限界を提供します。ここで $d$
は凸参照セットの次元、$n$ はサンプル サイズ、$\delta$ は信頼水準です。
私たちの結果は、損失の勾配と局所的な規範の概念に関する統一された幾何学的仮定に基づいています。

要約(オリジナル)

We consider the problem of stochastic convex optimization with exp-concave losses using Empirical Risk Minimization in a convex class. Answering a question raised in several prior works, we provide a $O( d / n + \log( 1 / \delta) / n )$ excess risk bound valid for a wide class of bounded exp-concave losses, where $d$ is the dimension of the convex reference set, $n$ is the sample size, and $\delta$ is the confidence level. Our result is based on a unified geometric assumption on the gradient of losses and the notion of local norms.

arxiv情報

著者 Nikita Puchkin,Nikita Zhivotovskiy
発行日 2023-07-05 15:50:30+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, math.ST, stat.ML, stat.TH パーマリンク