SQLformer: Deep Auto-Regressive Query Graph Generation for Text-to-SQL Translation

要約

近年、自然言語の質問を実行可能な SQL クエリに変換するテキストから SQL への変換タスクが、データ アクセスを民主化する可能性があるとして大きな注目を集めています。
その期待にもかかわらず、目に見えないデータベースへの適応や自然言語と SQL 構文の調整などの課題により、広範な採用が妨げられてきました。
これらの問題を克服するために、テキストから SQL への変換タスクを実行するために特別に作成された新しい Transformer アーキテクチャである SQLformer を紹介します。
私たちのモデルは、エンコーダー層とデコーダー層に構造的な帰納的バイアスを組み込み、自己回帰的な方法で SQL クエリを抽象構文ツリー (AST) として予測します。
このバイアスは、データベースのテーブルと列の選択によって導かれ、デコーダが幅優先検索の正規順序でグラフとして表される SQL クエリ AST を生成するのに役立ちます。
私たちの実験では、SQLformer が 6 つの著名な text-to-SQL ベンチマーク全体で最先端のパフォーマンスを達成していることを実証しています。

要約(オリジナル)

In recent years, the task of text-to-SQL translation, which converts natural language questions into executable SQL queries, has gained significant attention for its potential to democratize data access. Despite its promise, challenges such as adapting to unseen databases and aligning natural language with SQL syntax have hindered widespread adoption. To overcome these issues, we introduce SQLformer, a novel Transformer architecture specifically crafted to perform text-to-SQL translation tasks. Our model predicts SQL queries as abstract syntax trees (ASTs) in an autoregressive way, incorporating structural inductive bias in the encoder and decoder layers. This bias, guided by database table and column selection, aids the decoder in generating SQL query ASTs represented as graphs in a Breadth-First Search canonical order. Our experiments demonstrate that SQLformer achieves state-of-the-art performance across six prominent text-to-SQL benchmarks.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google