Alternating Minimization for Regression with Tropical Rational Functions

要約

固定指数を持つトロピカル有理関数の空間にわたる回帰のための交互最小化ヒューリスティックを提案します。
この方法では、閉じた形式の解が得られることが知られているトロピカル多項式回帰を介して分子項と分母項のフィッティングを交互に行います。
交互最小化法の動作を実験的に示します。
実験により、ヒューリスティックが入力データの合理的な近似を提供することが実証されています。
私たちの研究は、熱帯有理関数と密接に関連する機械学習コミュニティで人気のあるネットワーク アーキテクチャのクラスである ReLU ニューラル ネットワークへのアプリケーションを動機としています。

要約(オリジナル)

We propose an alternating minimization heuristic for regression over the space of tropical rational functions with fixed exponents. The method alternates between fitting the numerator and denominator terms via tropical polynomial regression, which is known to admit a closed form solution. We demonstrate the behavior of the alternating minimization method experimentally. Experiments demonstrate that the heuristic provides a reasonable approximation of the input data. Our work is motivated by applications to ReLU neural networks, a popular class of network architectures in the machine learning community which are closely related to tropical rational functions.

arxiv情報

著者 Alex Dunbar,Lars Ruthotto
発行日 2023-05-31 17:46:14+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: 14T90, 62J02, 90C24, cs.LG, math.OC パーマリンク