Runtime Analyses of Multi-Objective Evolutionary Algorithms in the Presence of Noise

要約

単一目的の最適化では、進化的アルゴリズムでも、さらに調整を行わなくても、目的関数の評価においてある程度のノイズを許容できることがよく知られています。
対照的に、この質問は多目的最適化についてはまったく理解されていません。
この研究では、目的関数にノイズが存在する状態で、古典的なベンチマークで単純な多目的進化アルゴリズム (MOEA) の最初の数学的実行時分析を実行します。
レート $p \le \alpha/n$、$\alpha$ が適切な定数であるビットごとの事前ノイズが存在する場合、 \emph{simple Evolution multi-objective optimizer} (SEMO) は調整なしで実行できることを証明します。
ノイズに対処すると、ノイズがない場合と同様に、時間 $O(n^2\log n)$ で OneMinMax ベンチマークのパレート フロントが見つかります。
ここでの問題が、パレート フロントを目撃する $n+1$ 人の個体からなる母集団に到達することであるとすると、これはノイズに対する驚くほど強い堅牢性です (比較的単純な進化アルゴリズムでは、$ が次の場合、多項式時間で単一目的の OneMax 問題を最適化できません)。
p = \omega(\log(n)/n)$)。
私たちの証明は、MOEA の強力な堅牢性が、パレート フロント全体をカバーする母集団を計算できるように設計された暗黙的な多様性メカニズムに由来していることを示唆しています。
興味深いことに、この結果は、解の客観値が 1 回だけ決定され、その時点からアルゴリズムがこの (おそらくノイズの多い) 客観値を使用して動作する場合にのみ当てはまります。
すべての解が反復ごとに再評価されると、ノイズ率 $p = \omega(\log(n)/n^2)$ が超多項式実行時間につながることを証明します。
これは、単一目的の最適化とは大きく異なります。単一目的の最適化では、適合性が重要な場合には必ず解を再評価することが一般的に好まれ、解を再評価しないと壊滅的なパフォーマンスの低下につながる可能性がある例が知られています。

要約(オリジナル)

In single-objective optimization, it is well known that evolutionary algorithms also without further adjustments can tolerate a certain amount of noise in the evaluation of the objective function. In contrast, this question is not at all understood for multi-objective optimization. In this work, we conduct the first mathematical runtime analysis of a simple multi-objective evolutionary algorithm (MOEA) on a classic benchmark in the presence of noise in the objective functions. We prove that when bit-wise prior noise with rate $p \le \alpha/n$, $\alpha$ a suitable constant, is present, the \emph{simple evolutionary multi-objective optimizer} (SEMO) without any adjustments to cope with noise finds the Pareto front of the OneMinMax benchmark in time $O(n^2\log n)$, just as in the case without noise. Given that the problem here is to arrive at a population consisting of $n+1$ individuals witnessing the Pareto front, this is a surprisingly strong robustness to noise (comparably simple evolutionary algorithms cannot optimize the single-objective OneMax problem in polynomial time when $p = \omega(\log(n)/n)$). Our proofs suggest that the strong robustness of the MOEA stems from its implicit diversity mechanism designed to enable it to compute a population covering the whole Pareto front. Interestingly this result only holds when the objective value of a solution is determined only once and the algorithm from that point on works with this, possibly noisy, objective value. We prove that when all solutions are reevaluated in each iteration, then any noise rate $p = \omega(\log(n)/n^2)$ leads to a super-polynomial runtime. This is very different from single-objective optimization, where it is generally preferred to reevaluate solutions whenever their fitness is important and where examples are known such that not reevaluating solutions can lead to catastrophic performance losses.

arxiv情報

著者 Matthieu Dinot,Benjamin Doerr,Ulysse Hennebelle,Sebastian Will
発行日 2023-05-30 15:45:51+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.DS, cs.NE, math.OC パーマリンク