PK-Chat: Pointer Network Guided Knowledge Driven Generative Dialogue Model

要約

タイトル：PK-Chat：ポインタネットワークによる知識に基づく生成型対話モデル

要約：
・エンドツーエンドの対話システムの研究において、リアルワールドの知識を用いて正しい答えを持った自然で、流暢で、人間のような発話を生成することは重要である。
・しかし、ドメイン固有の対話システムは、単語のリストの予測と外部知識グラフ知識の直接予測によって、PK-Chatによって生成される単語が、誤った知識または外部の情報を導入する可能性がある。
・PK-Chatは、予め訓練された言語モデルと、知識グラフ上のポインタネットワークを組み合わせたポインタネットワーク指導の知識に基づく生成型対話モデルである。
・さらに、PK-Chatをベースとして、地球科学の学術シナリオの対話システムが構築され、学術シナリオの対話システムの品質を評価するための学術対話ベンチマークが構築され、ソースコードがオンラインで公開されている。

要約(オリジナル)

In the research of end-to-end dialogue systems, using real-world knowledge to generate natural, fluent, and human-like utterances with correct answers is crucial. However, domain-specific conversational dialogue systems may be incoherent and introduce erroneous external information to answer questions due to the out-of-vocabulary issue or the wrong knowledge from the parameters of the neural network. In this work, we propose PK-Chat, a Pointer network guided Knowledge-driven generative dialogue model, incorporating a unified pretrained language model and a pointer network over knowledge graphs. The words generated by PK-Chat in the dialogue are derived from the prediction of word lists and the direct prediction of the external knowledge graph knowledge. Moreover, based on the PK-Chat, a dialogue system is built for academic scenarios in the case of geosciences. Finally, an academic dialogue benchmark is constructed to evaluate the quality of dialogue systems in academic scenarios and the source code is available online.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI