Fast-Slow-Thinking: Complex Task Solving with Large Language Models

要約

現在、複雑なタスクを解決するために、大規模な言語モデル（LLM）が徐々に採用されています。
課題に直面するために、タスクの分解は効果的な方法になりました。これは、複雑なタスクを複数のより単純なサブタスクに分割し、それらを個別に解決して、元のタスクの難しさを減らすことができることを提案します。
ただし、タスクに過度に複雑なロジックと制約が含まれている場合、既存のタスク分解方法のパフォーマンスは最適ではありません。
この状況では、LLMSによって生成されたソリューションは、タスクの本来の目的から逸脱するか、冗長または誤ったコンテンツを含む場合があります。
したがって、人間が速い思考とゆっくりした思考を含む2つの思考システムを持っているという事実に触発されたこのペーパーでは、「速いスローを考えている」（FST）という新しいタスク分解方法を紹介します。
ここでは、FTはタスクの一般的かつ簡潔な側面に焦点を当てており、STはタスクの詳細にもっと焦点を当てています。
FTでは、LLMSは元のタスクの制約を削除するように求められているため、一般的で簡潔なタスクに単純化します。
STでは、FTで削除された制約を思い出します。これにより、LLMSは元のタスクの要件を満たすためにFTで生成された答えを改善できるようにします。
したがって、私たちのFST方法により、LLMは、粗いから微細なものまでの人間のような認知プロセスを介して複雑な問題を考慮することができます。その効果は、3種類のタスクに関する実験によって十分に実証されています。

要約(オリジナル)

Nowadays, Large Language Models (LLMs) have been gradually employed to solve complex tasks. To face the challenge, task decomposition has become an effective way, which proposes to divide a complex task into multiple simpler subtasks and then solve them separately so that the difficulty of the original task can be reduced. However, the performance of existing task decomposition methods can be suboptimal when the task contains overly complex logic and constraints. In this situation, the solution generated by LLMs may deviate from the original purpose of the task, or contain redundant or even erroneous content. Therefore, inspired by the fact that humans possess two thinking systems including fast thinking and slow thinking, this paper introduces a new task decomposition method termed “Fast-Slow-Thinking” (FST), which stimulates LLMs to solve tasks through the cooperation of Fast Thinking (FT) and Slow Thinking (ST) steps. Here FT focuses more on the general and concise aspect of the task, and ST focuses more on the details of the task. In FT, LLMs are prompted to remove the constraints of the original task, therefore simplifying it to a general and concise one. In ST, we recall the constraints removed in FT, so that LLMs can improve the answer generated in FT to meet the requirements of the original task. Therefore, our FST method enables LLMs to consider a complex problem via a human-like cognition process from coarse to fine, the effectiveness of which has been well demonstrated by the experiments on three types of tasks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google