RSL-SQL: Robust Schema Linking in Text-to-SQL Generation

要約

Text-to-SQL 生成は、自然言語の質問を SQL ステートメントに変換することを目的としています。
大規模な言語モデルに基づく Text-to-SQL では、スキーマ リンクは、関連するスキーマ要素のみを選択することで LLM への入力を合理化し、ノイズと計算オーバーヘッドを削減するために広く採用されている戦略です。
ただし、スキーマのリンクには、必要な要素の欠落やデータベースの構造的整合性の破壊の可能性など、注意が必要なリスクがあります。
これらの課題に対処するために、双方向のスキーマ リンク、コンテキスト情報の拡張、バイナリ選択戦略、およびマルチターン自己修正を組み合わせた RSL-SQL と呼ばれる新しいフレームワークを提案します。
前方および後方枝刈り手法を使用してパターン リンクの再現率を向上させ、入力列の数を 83% 削減しながら 94% の厳密な再現率を達成しました。
さらに、完全モードとコンテキスト情報で強化された簡易モードの間で投票することでリスクをヘッジします。
BIRD および Spider ベンチマークの実験では、私たちのアプローチがオープンソース ソリューションの中で SOTA 実行精度を達成しており、GPT-4o を使用した BIRD では 67.2%、Spider では 87.9% を達成していることが実証されています。
さらに、私たちのアプローチは、同じプロンプトをそのまま使用できる DeepSeek (はるかに安価) を採用した場合、一連の GPT-4 ベースの Text-to-SQL システムよりも優れたパフォーマンスを発揮します。
広範な分析とアブレーション研究により、当社のフレームワークの各コンポーネントの有効性が確認されています。
コードは https://github.com/Laqcce-cao/RSL-SQL で入手できます。

要約(オリジナル)

Text-to-SQL generation aims to translate natural language questions into SQL statements. In Text-to-SQL based on large language models, schema linking is a widely adopted strategy to streamline the input for LLMs by selecting only relevant schema elements, therefore reducing noise and computational overhead. However, schema linking faces risks that require caution, including the potential omission of necessary elements and disruption of database structural integrity. To address these challenges, we propose a novel framework called RSL-SQL that combines bidirectional schema linking, contextual information augmentation, binary selection strategy, and multi-turn self-correction. We improve the recall of pattern linking using forward and backward pruning methods, achieving a strict recall of 94% while reducing the number of input columns by 83%. Furthermore, it hedges the risk by voting between a full mode and a simplified mode enhanced with contextual information. Experiments on the BIRD and Spider benchmarks demonstrate that our approach achieves SOTA execution accuracy among open-source solutions, with 67.2% on BIRD and 87.9% on Spider using GPT-4o. Furthermore, our approach outperforms a series of GPT-4 based Text-to-SQL systems when adopting DeepSeek (much cheaper) with same intact prompts. Extensive analysis and ablation studies confirm the effectiveness of each component in our framework. The codes are available at https://github.com/Laqcce-cao/RSL-SQL.

arxiv情報

著者 Zhenbiao Cao,Yuanlei Zheng,Zhihao Fan,Xiaojin Zhang,Wei Chen,Xiang Bai
発行日 2024-11-26 13:55:29+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, cs.DB パーマリンク