Compositional Generalization for Data-to-Text Generation

要約

データからテキストへの生成には、述語と引数のタプルとして表されることが多い構造化データを一貫したテキスト記述に変換することが含まれます。
最近の進歩にも関わらず、システムは未だに述語の目に見えない組み合わせに直面すると苦戦し、不誠実な記述（幻覚や省略など）を生み出します。
私たちはこの問題を構成的一般化と呼び、この特定の問題に対するさまざまなアプローチのパフォーマンスを評価するためのベンチマークを作成することを奨励しました。
さらに、述語をグループにクラスタリングすることによって構成的一般化に対処する新しいモデルを提案します。
私たちのモデルは、一度に 1 つの述語クラスターに依存して、文ごとにテキストを生成します。
このアプローチは、すべての評価指標にわたって T5 ベースラインを大幅に上回っています。特に、入力に対する忠実性の維持に重点を置いた指標に関して、T5 と比較して 31% の改善を達成しました。

要約(オリジナル)

Data-to-text generation involves transforming structured data, often represented as predicate-argument tuples, into coherent textual descriptions. Despite recent advances, systems still struggle when confronted with unseen combinations of predicates, producing unfaithful descriptions (e.g. hallucinations or omissions). We refer to this issue as compositional generalisation, and it encouraged us to create a benchmark for assessing the performance of different approaches on this specific problem. Furthermore, we propose a novel model that addresses compositional generalization by clustering predicates into groups. Our model generates text in a sentence-by-sentence manner, relying on one cluster of predicates at a time. This approach significantly outperforms T5~baselines across all evaluation metrics.Notably, it achieved a 31% improvement over T5 in terms of a metric focused on maintaining faithfulness to the input.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google