Tree-of-Table: Unleashing the Power of LLMs for Enhanced Large-Scale Table Understanding

要約

さまざまなドメインにわたる半構造化データとしてのテーブルの遍在性と価値には、テーブルの複雑さと膨大な量の情報を理解するための高度な方法が必要です。
自然言語理解のフロンティアを前進させる大規模言語モデル (LLM) の優れた機能にもかかわらず、大規模な表形式データへの適用には、特にテーブル サイズと複雑に入り組んだ関係に関して、重大な課題が存在します。
既存の作業は、小規模なテーブルでは有望であることを示していますが、現実世界のシナリオで見られる、大規模で相互接続されたテーブルに必要な複雑な推論を必要とする場合には、失敗することがよくあります。
このギャップに対処するために、大規模で複雑なテーブルに対する LLM の推論能力を強化するように設計された新しいアプローチである「Tree-of-Table」を導入します。
私たちの方法では、テーブルの圧縮と分解を使用して関連データを抽出し、管理可能な形式に再編成し、その後、ツリー構造の推論を容易にする階層テーブル ツリーを構築します。
綿密なテーブルツリー実行プロセスを通じて、ツリー構造の推論チェーンを体系的に解き明かし、解決策を導き出します。
WikiTQ、TableFact、FeTaQA、BIRD を含む多様なデータセットにわたる実験では、Tree-of-Table が優れたパフォーマンスで新しいベンチマークを設定し、大規模なテーブル推論における顕著な効率と一般化機能を示していることが実証されています。

要約(オリジナル)

The ubiquity and value of tables as semi-structured data across various domains necessitate advanced methods for understanding their complexity and vast amounts of information. Despite the impressive capabilities of large language models (LLMs) in advancing the natural language understanding frontier, their application to large-scale tabular data presents significant challenges, specifically regarding table size and complex intricate relationships. Existing works have shown promise with small-scale tables but often flounder when tasked with the complex reasoning required by larger, interconnected tables found in real-world scenarios. To address this gap, we introduce ‘Tree-of-Table’, a novel approach designed to enhance LLMs’ reasoning capabilities over large and complex tables. Our method employs Table Condensation and Decomposition to distill and reorganize relevant data into a manageable format, followed by the construction of a hierarchical Table-Tree that facilitates tree-structured reasoning. Through a meticulous Table-Tree Execution process, we systematically unravel the tree-structured reasoning chain to derive the solutions. Experiments across diverse datasets, including WikiTQ, TableFact, FeTaQA, and BIRD, demonstrate that Tree-of-Table sets a new benchmark with superior performance, showcasing remarkable efficiency and generalization capabilities in large-scale table reasoning.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google