Toward Automated Algorithm Design: A Survey and Practical Guide to Meta-Black-Box-Optimization

要約

この調査では、自動化されたアルゴリズムの設計を支援するメタラーニングアプローチを組み込んだ進化的計算〜（EC）コミュニティ内の新興通りとして、メタブラックボックスオプチミー化〜（Metabbo）を紹介します。
Metabboの成功にもかかわらず、現在の文献はその重要な側面の不十分な要約を提供し、実装のための実用的なガイダンスが欠けています。
このギャップを埋めるために、メタボの最近の進歩の包括的なレビューを提供し、その主要な開発の詳細な調査を提供します。
メタボパラダイムの統一された定義から始め、その後、アルゴリズムの選択、アルゴリズムの構成、ソリューション操作、アルゴリズム生成など、さまざまなアルゴリズム設計タスクの体系的な分類法が続きます。
さらに、補強学習、監視された学習、神経進化、大規模な言語モデルを使用したコンテキスト学習など、現在のメタボ作業の背後にあるさまざまな学習方法論を概念的に要約します。
その後、最適化パフォーマンス、計算効率、および一般化能力の実験的分析とともに、最新の代表的なメタボ法の包括的な評価が実行されます。
評価結果に基づいて、Metabboの一般化と学習の有効性を高めるコアデザインのセットを細心の注意を払って特定します。
最後に、最新のトレンドと潜在的な将来の方向性についての洞察を提供することにより、フィールドのビジョンの概要を説明します。
関連する文献は、https://github.com/metaevo/awesome-metabboで継続的に収集および更新されます。

要約(オリジナル)

In this survey, we introduce Meta-Black-Box-Optimization~(MetaBBO) as an emerging avenue within the Evolutionary Computation~(EC) community, which incorporates Meta-learning approaches to assist automated algorithm design. Despite the success of MetaBBO, the current literature provides insufficient summaries of its key aspects and lacks practical guidance for implementation. To bridge this gap, we offer a comprehensive review of recent advances in MetaBBO, providing an in-depth examination of its key developments. We begin with a unified definition of the MetaBBO paradigm, followed by a systematic taxonomy of various algorithm design tasks, including algorithm selection, algorithm configuration, solution manipulation, and algorithm generation. Further, we conceptually summarize different learning methodologies behind current MetaBBO works, including reinforcement learning, supervised learning, neuroevolution, and in-context learning with Large Language Models. A comprehensive evaluation of the latest representative MetaBBO methods is then carried out, alongside an experimental analysis of their optimization performance, computational efficiency, and generalization ability. Based on the evaluation results, we meticulously identify a set of core designs that enhance the generalization and learning effectiveness of MetaBBO. Finally, we outline the vision for the field by providing insight into the latest trends and potential future directions. Relevant literature will be continuously collected and updated at https://github.com/MetaEvo/Awesome-MetaBBO.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google