Analysing the Impact of Removing Infrequent Words on Topic Quality in LDA Models

要約

text-as-data アプリケーションの最初の手順は、テキストの前処理です。
計算を大幅に容易にする典型的なステップの 1 つは、コーパスに関する限られた情報を提供すると考えられる頻度の低い単語を削除することで構成されます。
語彙枝刈りは人気があるにもかかわらず、それを実装する方法に関するガイドラインは文献にあまりありません。
この論文の目的は、潜在ディリクレ割り当てを使用して推定されるトピックの品質に対する、頻度の低い単語を削除する効果を調べることで、このギャップを埋めることです。
この分析は、頻度の低い用語の除去とさまざまな評価指標に関するさまざまな基準を考慮したモンテカルロ実験に基づいています。
結果は、枝刈りが有益であり、削除される可能性のある語彙の割合がかなりの量になる可能性があることを示しています。

要約(オリジナル)

An initial procedure in text-as-data applications is text preprocessing. One of the typical steps, which can substantially facilitate computations, consists in removing infrequent words believed to provide limited information about the corpus. Despite popularity of vocabulary pruning, not many guidelines on how to implement it are available in the literature. The aim of the paper is to fill this gap by examining the effects of removing infrequent words for the quality of topics estimated using Latent Dirichlet Allocation. The analysis is based on Monte Carlo experiments taking into account different criteria for infrequent terms removal and various evaluation metrics. The results indicate that pruning is beneficial and that the share of vocabulary which might be eliminated can be quite considerable.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google