PAO: A general particle swarm algorithm with exact dynamics and closed-form transition densities

要約

タイトル：PAO:正確なダイナミックスと閉形式の遷移密度を備えた一般的な粒子群アルゴリズム

要約：

– 従来の勾配最適化手法が苦手とする問題で、グローバル最適解を見つけることができるメタヒューリスティック最適化手法について多くの研究が行われている。
– そのうち、「粒子群最適化（PSO）」と呼ばれる手法は、多くの応用分野で高い効果を発揮している。
– PSO分野が成熟しているため、新しいPSOアルゴリズムは性能面でほとんど改善が見込めないとされている。
– 代わりに、ベンチマーク最適化関数のスイートでの性能追求のみにとどまらず、他の有用な特性を持つアルゴリズムの開発に研究努力が注がれるべきであると主張されている。
– この論文では、高度に一般的で解釈可能なPSOアルゴリズムの一つである「粒子アトラクタアルゴリズム（PAO）」が提案されている。
– さらに、遷移密度（次世代にわたって粒子の動きを説明する密度）が各ステップで正確な閉形式で計算されるように設計されている。
– 閉形式の遷移密度にアクセスできることは、密接に関連する「シーケンシャルモンテカルロ（SMC）」分野に重要な影響を与える。
– 有用な特性が性能に影響を与えることがないことを示すために、PAOはベンチマーク比較研究でいくつかの他の最新のヒューリスティック最適化アルゴリズムと比較されている。

要約(オリジナル)

A great deal of research has been conducted in the consideration of meta-heuristic optimisation methods that are able to find global optima in settings that gradient based optimisers have traditionally struggled. Of these, so-called particle swarm optimisation (PSO) approaches have proven to be highly effective in a number of application areas. Given the maturity of the PSO field, it is likely that novel variants of the PSO algorithm stand to offer only marginal gains in terms of performance — there is, after all, no free lunch. Instead of only chasing performance on suites of benchmark optimisation functions, it is argued herein that research effort is better placed in the pursuit of algorithms that also have other useful properties. In this work, a highly-general, interpretable variant of the PSO algorithm — particle attractor algorithm (PAO) — is proposed. Furthermore, the algorithm is designed such that the transition densities (describing the motions of the particles from one generation to the next) can be computed exactly in closed form for each step. Access to closed-form transition densities has important ramifications for the closely-related field of Sequential Monte Carlo (SMC). In order to demonstrate that the useful properties do not come at the cost of performance, PAO is compared to several other state-of-the art heuristic optimisation algorithms in a benchmark comparison study.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI