Multiplying poles to avoid unwanted points in root finding and optimization

要約

ルート探索と最適化では、閉集合 $A$ があり、自分の好きな方法で構築した数列が A に収束しない場合がよくあります (ここでは、$A$ に凸であるなどの追加のプロパティは想定しません)
または接続されています）。
たとえば、根を見つけたいと思って、1 つの根 $x^*$ の引力盆地の初期点を選択した場合 (この事実は事前にはわからないかもしれません)、人は常にその根に行き着きます。
この場合、アルゴリズムの次回の実行でこの点 $z^*$ を回避するメカニズムが必要になります。
この論文では、これを達成することを目的とした新しい方法を提案します。コスト関数を $A$ までの距離関数の適切な累乗で割ります。
このアイデアは、1 つの変数内の関数のすべての根を見つけようとする方法からインスピレーションを得ています。
まず、コスト関数の最小値が正確に 0 である場合のこの方法のヒューリスティックを説明し、次に最小値がゼロ以外の場合 (正の値と負の値の両方を許容する) に進む方法を説明します。
この方法は、降下特性を持つ反復アルゴリズムに非常に適しています。
また、これに基づいて、正の次元のコンポーネントの引力領域を脱出して別のコンポーネントに到達するためのアルゴリズムを提案します。
その過程で、現在の文献にある主な既存の関連手法と比較します。
新しいアプローチの有用性を説明するために、いくつかの例を示します。

要約(オリジナル)

In root finding and optimization, there are many cases where there is a closed set $A$ one does not the sequence constructed by one’s favourite method will converge to A (here, we do not assume extra properties on $A$ such as being convex or connected). For example, if one wants to find roots, and one chooses initial points in the basin of attraction for 1 root $x^*$ (a fact which one may not know before hand), then one will always end up in that root. In this case, one would like to have a mechanism to avoid this point $z^*$ in the next runs of one’s algorithm. In this paper, we propose a new method aiming to achieve this: we divide the cost function by an appropriate power of the distance function to $A$. This idea is inspired by how one would try to find all roots of a function in 1 variable. We first explain the heuristic for this method in the case where the minimum of the cost function is exactly 0, and then explain how to proceed if the minimum is non-zero (allowing both positive and negative values). The method is very suitable for iterative algorithms which have the descent property. We also propose, based on this, an algorithm to escape the basin of attraction of a component of positive dimension to reach another component. Along the way, we compare with main existing relevant methods in the current literature. We provide several examples to illustrate the usefulness of the new approach.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google