A Systematic Survey on Large Language Models for Algorithm Design

要約

アルゴリズム設計（AD）は、様々な領域における効果的な問題解決に不可欠である。大規模言語モデル（LLM）の登場は、この分野の自動化と革新を著しく促進し、新たな視点と有望な解決策を提供している。過去3年間で、LLMのADへの統合（LLM4AD）は、最適化、機械学習、数学的推論、科学的発見にまたがるアプリケーションで、大幅な進歩を遂げました。この分野の急速な進歩と範囲の拡大を考えると、体系的なレビューはタイムリーかつ必要である。本稿では、LLM4ADの体系的なレビューを行う。まず、既存の研究の概要と要約を示す。次に、分類法を紹介し、LLMの役割、検索方法、迅速な方法、応用領域という4つの次元にわたって文献をレビューし、ADにおけるLLMの可能性と成果について考察する。最後に、現在の課題を明らかにし、今後の研究の方向性を示す。

要約(オリジナル)

Algorithm Design (AD) is crucial for effective problem-solving across various domains. The advent of Large Language Models (LLMs) has notably enhanced the automation and innovation within this field, offering new perspectives and promising solutions. Over the past three years, the integration of LLMs into AD (LLM4AD) has seen substantial progress, with applications spanning optimization, machine learning, mathematical reasoning, and scientific discovery. Given the rapid advancements and expanding scope of this field, a systematic review is both timely and necessary. This paper provides a systematic review of LLM4AD. First, we offer an overview and summary of existing studies. Then, we introduce a taxonomy and review the literature across four dimensions: the roles of LLMs, search methods, prompt methods, and application domains with a discussion of potential and achievements of LLMs in AD. Finally, we identify current challenges and highlight several promising directions for future research.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL