Soft Quantization using Entropic Regularization

要約

量子化問題は、有限の離散尺度を使用して ${\mathbb{R}}^d$ の確率尺度の可能な限り最良の近似を見つけることを目的としています。
Wasserstein 距離は、近似の品質を測定するための一般的な選択です。
この貢献では、標準の量子化問題を緩和するエントロピー正則化量子化問題の特性とロバスト性を調査します。
提案された近似手法には、理論的および実用性の観点から堅牢性がよく知られているソフトミン関数が当然採用されています。
さらに、エントロピー正則化ワッサーシュタイン距離を使用してソフト量子化問題の近似の品質を評価し、確率的勾配アプローチを実装して最適な解決策を実現します。
私たちが提案する方法の制御パラメータにより、最適化問題の難易度を調整できるため、対象となる非常に困難な問題を扱う際に大きな利点が得られます。
同様に、この貢献は、さまざまな解説でこの方法のパフォーマンスを経験的に示しています。

要約(オリジナル)

The quantization problem aims to find the best possible approximation of probability measures on ${\mathbb{R}}^d$ using finite, discrete measures. The Wasserstein distance is a typical choice to measure the quality of the approximation. This contribution investigates the properties and robustness of the entropy-regularized quantization problem, which relaxes the standard quantization problem. The proposed approximation technique naturally adopts the softmin function, which is well known for its robustness in terms of theoretical and practicability standpoints. Moreover, we use the entropy-regularized Wasserstein distance to evaluate the quality of the soft quantization problem’s approximation, and we implement a stochastic gradient approach to achieve the optimal solutions. The control parameter in our proposed method allows for the adjustment of the optimization problem’s difficulty level, providing significant advantages when dealing with exceptionally challenging problems of interest. As well, this contribution empirically illustrates the performance of the method in various expositions.

arxiv情報

著者 Rajmadan Lakshmanan,Alois Pichler
発行日 2023-09-08 16:41:26+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 40A25, 81S20, 94A17, cs.LG, math.OC, math.PR パーマリンク