Exploring the Potential of Large Language Models in Graph Generation

要約

大規模言語モデル (LLM) は多くの分野で大きな成功を収めており、最近の研究では、ノード分類などのグラフ識別タスク用の LLM の探索が研究されています。
ただし、LLM のグラフ生成機能については、文献ではまだ解明されていません。
グラフ生成には、LLM が特定のプロパティを持つグラフを生成する必要があります。これは、創薬などの貴重な現実世界のアプリケーションに役立ちますが、より困難になる傾向があります。
この論文では、体系的なタスク設計と広範な実験を使用してグラフ生成のための LLM の機能を調査するために、LLM4GraphGen を提案します。
具体的には、LLM のさまざまなグラフ構造ルールの理解、構造タイプの分布を捕捉する能力、プロパティベースのグラフ生成のためのドメイン知識の利用に関する主要な質問に対処するために、包括的な実験に基づいて調整されたいくつかのタスクを提案します。
私たちの評価は、LLM、特に GPT-4 が、ルールベースおよび分布ベースの生成を含むグラフ生成タスクにおいて予備的な能力を示すことを示しています。
また、少数回のプロンプトや思考連鎖プロンプトなどの一般的なプロンプト手法が一貫してパフォーマンスを向上させるわけではないことも観察しています。
さらに、LLM は特定の特性を持つ分子を生成する可能性を示しています。
これらの発見は、グラフ生成用の優れた LLM ベースのモデルを設計するための基礎として機能し、貴重な洞察とさらなる研究を提供する可能性があります。

要約(オリジナル)

Large language models (LLMs) have achieved great success in many fields, and recent works have studied exploring LLMs for graph discriminative tasks such as node classification. However, the abilities of LLMs for graph generation remain unexplored in the literature. Graph generation requires the LLM to generate graphs with given properties, which has valuable real-world applications such as drug discovery, while tends to be more challenging. In this paper, we propose LLM4GraphGen to explore the ability of LLMs for graph generation with systematical task designs and extensive experiments. Specifically, we propose several tasks tailored with comprehensive experiments to address key questions regarding LLMs’ understanding of different graph structure rules, their ability to capture structural type distributions, and their utilization of domain knowledge for property-based graph generation. Our evaluations demonstrate that LLMs, particularly GPT-4, exhibit preliminary abilities in graph generation tasks, including rule-based and distribution-based generation. We also observe that popular prompting methods, such as few-shot and chain-of-thought prompting, do not consistently enhance performance. Besides, LLMs show potential in generating molecules with specific properties. These findings may serve as foundations for designing good LLMs based models for graph generation and provide valuable insights and further research.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google