Towards Summarizing Multiple Documents with Hierarchical Relationships

要約

タイトル：階層関係を持つ複数のドキュメントの要約に向けて

要約：
-多数の文書を要約する(MDS)データセットには、概括的かつ真実の要約や、要約に必要な明示的な文書間関係を持つ元の文書が欠落している。
-研究の能力を向上させるために、Rammer（関係を意識したマルチタスクメタレビュージェネレーター）を使用していくつかのメタデータ機能を予測するマルチタスク目的に基づくスパースな注意によって、階層関係を含めたMDSシステムを組み込む研究が不足しているということを提示。
-PeerSumはラムセットを通じて生成された科学論文のメタレビューのための新しいデータセットであり、メタレビューは高度な抽象的な真実の要約である。
-PeerSumはクロス参照としばしば衝突を特徴とする明示的な階層構造の豊富な文書間関係を持つ元の文書である。
-Rammerは、PeerSumが難しいデータセットであることを実証し、強力なベースラインMDSモデルを各種評価メトリックにおいて上回ることを示している。

要約(オリジナル)

Most existing multi-document summarization (MDS) datasets lack human-generated and genuine (i.e., not synthetic) summaries or source documents with explicit inter-document relationships that a summary must capture. To enhance the capabilities of MDS systems we present PeerSum, a novel dataset for generating meta-reviews of scientific papers, where the meta-reviews are highly abstractive and genuine summaries of reviews and corresponding discussions. These source documents have rich inter-document relationships of an explicit hierarchical structure with cross-references and often feature conflicts. As there is a scarcity of research that incorporates hierarchical relationships into MDS systems through attention manipulation on pre-trained language models, we additionally present Rammer (Relationship-aware Multi-task Meta-review Generator), a meta-review generation model that uses sparse attention based on the hierarchical relationships and a multi-task objective that predicts several metadata features in addition to the standard text generation objective. Our experimental results show that PeerSum is a challenging dataset, and Rammer outperforms other strong baseline MDS models under various evaluation metrics.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI