Natural Language Processing with Commonsense Knowledge: A Survey

要約

常識的な知識は、モデルが人間のような推論を行えるようにすることで自然言語処理 (NLP) を進歩させるために不可欠です。これには、コンテキストのより深い理解が必要であり、多くの場合、暗黙的な外部知識に基づいて推論を行う必要があります。
このペーパーでは、常識的な知識をさまざまな NLP タスクに統合する方法を検討します。
まず、著名な常識知識ベースをレビューし、次に NLP モデル、特に言語モデルの常識推論能力を評価するために使用されるベンチマークについて説明します。
さらに、常識的な知識とその応用をさまざまな NLP タスクに組み込むための重要な方法論に焦点を当てます。
この論文では、常識的な推論で NLP システムを強化する際の課題と新たな傾向についても考察します。
この調査で参照されているすべての文献は、GitHub リポジトリ (https://github.com/yuboxie/awesome-commonsense) からアクセスできます。

要約(オリジナル)

Commonsense knowledge is essential for advancing natural language processing (NLP) by enabling models to engage in human-like reasoning, which requires a deeper understanding of context and often involves making inferences based on implicit external knowledge. This paper explores the integration of commonsense knowledge into various NLP tasks. We begin by reviewing prominent commonsense knowledge bases and then discuss the benchmarks used to evaluate the commonsense reasoning capabilities of NLP models, particularly language models. Furthermore, we highlight key methodologies for incorporating commonsense knowledge and their applications across different NLP tasks. The paper also examines the challenges and emerging trends in enhancing NLP systems with commonsense reasoning. All literature referenced in this survey can be accessed via our GitHub repository: https://github.com/yuboxie/awesome-commonsense.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google