A Rate-Distortion Framework for Summarization

要約

本稿では、テキスト要約のための情報理論的フレームワークを紹介する。要約率-歪み関数を定義し、この関数が要約器の性能に基本的な下界を与えることを示す。この関数を計算するための、Blahut-Arimotoアルゴリズムに似た反復手順について述べる。実世界のテキストデータセットを扱うために、限られたデータで要約器のレートディストーション関数を計算できる実用的な方法も提案する。最後に、要約率の歪み関数と、実際に使用されている様々な要約器の性能を比較することで、我々の理論的結果を実証的に確認する。

要約(オリジナル)

This paper introduces an information-theoretic framework for text summarization. We define the summarizer rate-distortion function and show that it provides a fundamental lower bound on summarizer performance. We describe an iterative procedure, similar to Blahut-Arimoto algorithm, for computing this function. To handle real-world text datasets, we also propose a practical method that can calculate the summarizer rate-distortion function with limited data. Finally, we empirically confirm our theoretical results by comparing the summarizer rate-distortion function with the performances of different summarizers used in practice.

arxiv情報

提供元, 利用サービス

arxiv.jp, DeepL