Scalable and Accurate Graph Reasoning with LLM-based Multi-Agents

要約

最近の研究では、複雑なグラフ推論タスクに取り組むための大規模言語モデル (LLM) の使用が検討されています。
ただし、グラフ構造の複雑さと長いテキストの処理における LLM の固有の制限により、現在のアプローチでは、小規模なグラフや単純なタスクであっても満足のいく精度を実現できないことがよくあります。
これらの課題に対処するために、明示的かつ正確なグラフ推論のためのマルチエージェント コラボレーション戦略を利用する、微調整不要のフレームワークである GraphAgent-Reasoner を導入します。
分散グラフ計算理論にインスピレーションを得た私たちのフレームワークは、グラフの問題を複数のエージェントに分散されるより小さなノード中心のタスクに分解します。
エージェントは協力して全体的な問題を解決し、単一の LLM で処理される情報量と複雑さを大幅に削減し、グラフ推論の精度を高めます。
エージェントの数を増やすだけで、GraphAgent-Reasoner は 1,000 ノードを超える大きなグラフに対応できるように効率的に拡張できます。
GraphInstruct データセットで評価された私たちのフレームワークは、多項式時間グラフ推論タスクでほぼ完璧な精度を示し、クローズドソースと微調整されたオープンソースの両方の利用可能な最良のモデルを大幅に上回ります。
私たちのフレームワークは、Web ページの重要性分析などの現実世界のグラフ推論アプリケーションを処理する機能も示しています。

要約(オリジナル)

Recent research has explored the use of Large Language Models (LLMs) for tackling complex graph reasoning tasks. However, due to the intricacies of graph structures and the inherent limitations of LLMs in handling long text, current approaches often fail to deliver satisfactory accuracy, even on small-scale graphs and simple tasks. To address these challenges, we introduce GraphAgent-Reasoner, a fine-tuning-free framework that utilizes a multi-agent collaboration strategy for explicit and precise graph reasoning. Inspired by distributed graph computation theory, our framework decomposes graph problems into smaller, node-centric tasks that are distributed among multiple agents. The agents collaborate to solve the overall problem, significantly reducing the amount of information and complexity handled by a single LLM, thus enhancing the accuracy of graph reasoning. By simply increasing the number of agents, GraphAgent-Reasoner can efficiently scale to accommodate larger graphs with over 1,000 nodes. Evaluated on the GraphInstruct dataset, our framework demonstrates near-perfect accuracy on polynomial-time graph reasoning tasks, significantly outperforming the best available models, both closed-source and fine-tuned open-source variants. Our framework also demonstrates the capability to handle real-world graph reasoning applications such as webpage importance analysis.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google