How to Learn a Star: Binary Classification with Starshaped Polyhedral Sets

要約

我々は、連続区分的な一次関数のクラスに限定した二値分類を考察する。我々は、これらの関数クラスの表現力を調べ、2つの損失関数（0/1-損失（離散損失）および指数損失関数）の組み合わせ論的および幾何学的な損失地形構造、特にサブレベル集合を記述する。特に、このモデルのVC次元について明示的な境界を与え、離散損失のサブレベル集合を超平面配置の部屋として具体的に記述する。指数損失については、最適値が一意であるための十分条件を与え、基礎となる指数確率分布の率パラメータを変化させたときの最適値の形状を記述する。

要約(オリジナル)

We consider binary classification restricted to a class of continuous piecewise linear functions whose decision boundaries are (possibly nonconvex) starshaped polyhedral sets, supported on a fixed polyhedral simplicial fan. We investigate the expressivity of these function classes and describe the combinatorial and geometric structure of the loss landscape, most prominently the sublevel sets, for two loss-functions: the 0/1-loss (discrete loss) and an exponential loss function. In particular, we give explicit bounds on the VC dimension of this model, and concretely describe the sublevel sets of the discrete loss as chambers in a hyperplane arrangement. For the exponential loss, we give sufficient conditions for the optimum to be unique, and describe the geometry of the optimum when varying the rate parameter of the underlying exponential probability distribution.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL