The Tempered Hilbert Simplex Distance and Its Application To Non-linear Embeddings of TEMs

要約

調整された指数関数的尺度 (TEM) は、パワー密度の確率正規化の対象となる正の尺度の間で調整されたエントロピー関数を最大化する指数関数群の分布をパラメトリック一般化したものです。
TEM 上の微積分は、強化エントロピーを定義するために使用される変形対数によって引き起こされる算術演算子の変形代数に依存しています。
この研究では、負の調整エントロピー関数のルジャンドル関数を介した有限離散 TEM の 3 つの異なるパラメーター化を導入します。
特に、ヒルベルト対数交差比単体距離から調整されたヒルベルト共単体距離への一般化の観点から、そのようなパラメータ化間のアイソメトリを確立します。
ヒルベルト幾何学と同様に、強化されたヒルベルト距離は、配向された強化されたファンク距離の $t$ 対称化として特徴付けられます。
トートロジカルなフィンスラー多様体における滑らかな曲線の $t$-長さの概念を導入することにより、構築を動機付けています。
次に、さまざまな設定で一般化された構造の特性を実証し、機械学習設定での最適化のための微分可能な近似の品質を数値的に検査します。

要約(オリジナル)

Tempered Exponential Measures (TEMs) are a parametric generalization of the exponential family of distributions maximizing the tempered entropy function among positive measures subject to a probability normalization of their power densities. Calculus on TEMs relies on a deformed algebra of arithmetic operators induced by the deformed logarithms used to define the tempered entropy. In this work, we introduce three different parameterizations of finite discrete TEMs via Legendre functions of the negative tempered entropy function. In particular, we establish an isometry between such parameterizations in terms of a generalization of the Hilbert log cross-ratio simplex distance to a tempered Hilbert co-simplex distance. Similar to the Hilbert geometry, the tempered Hilbert distance is characterized as a $t$-symmetrization of the oriented tempered Funk distance. We motivate our construction by introducing the notion of $t$-lengths of smooth curves in a tautological Finsler manifold. We then demonstrate the properties of our generalized structure in different settings and numerically examine the quality of its differentiable approximations for optimization in machine learning settings.

arxiv情報

著者 Ehsan Amid,Frank Nielsen,Richard Nock,Manfred K. Warmuth
発行日 2023-11-22 15:24:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.LG, stat.ML パーマリンク