BEATS: Optimizing LLM Mathematical Capabilities with BackVerify and Adaptive Disambiguate based Efficient Tree Search

要約

大規模言語モデル (LLM) は、幅広いタスクおよびドメインにわたって優れたパフォーマンスを示しています。
しかし、数学は厳密かつ論理的な性質を持っているため、数学の問題を解決する際には依然として困難に直面しています。
これまでの研究では、LLM の数学的問題解決能力を向上させるために、教師あり微調整 (SFT)、プロンプト エンジニアリング、検索ベースの手法などの手法が採用されてきました。
これらの努力にもかかわらず、パフォーマンスは依然として最適とは言えず、大量の計算リソースを必要とします。
この問題に対処するために、数学的問題解決能力を強化するための新しいアプローチである BEATS を提案します。
私たちのメソッドは、モデルを繰り返し書き直し、1 ステップずつ進み、前のステップに基づいて回答を生成するようにガイドする、新しく設計されたプロンプトを活用します。
さらに、生成された回答の正しさを検証するために LLM を使用する新しい逆検証手法を導入します。
さらに、剪定ツリー検索を採用し、強力なパフォーマンスを実現しながら検索時間を最適化します。
特に、私たちの方法は Qwen2-7b-Instruct のスコアを 36.94 から 61.52 に改善し、MATH ベンチマークで GPT4 の 42.5 を上回りました。

要約(オリジナル)

Large Language Models (LLMs) have exhibited exceptional performance across a broad range of tasks and domains. However, they still encounter difficulties in solving mathematical problems due to the rigorous and logical nature of mathematics. Previous studies have employed techniques such as supervised fine-tuning (SFT), prompt engineering, and search-based methods to improve the mathematical problem-solving abilities of LLMs. Despite these efforts, their performance remains suboptimal and demands substantial computational resources. To address this issue, we propose a novel approach, BEATS, to enhance mathematical problem-solving abilities. Our method leverages newly designed prompts that guide the model to iteratively rewrite, advance by one step, and generate answers based on previous steps. Additionally, we introduce a new back-verification technique that uses LLMs to validate the correctness of the generated answers. Furthermore, we employ a pruning tree search to optimize search time while achieving strong performance. Notably, our method improves Qwen2-7b-Instruct’s score from 36.94 to 61.52, outperforming GPT4’s 42.5 on the MATH benchmark.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google