Retrieval-Augmented Neural Response Generation Using Logical Reasoning and Relevance Scoring

要約

タスク指向の対話システムでの応答の構築は、通常、現在の対話状態や外部データベースなどの情報ソースに依存します。
この論文では、検索拡張言語モデルと論理的推論を組み合わせた、知識に基づいた応答生成への新しいアプローチを紹介します。
このアプローチは、現在の対話状態と背景情報を表すナレッジ グラフを中心に展開され、3 つのステップで進められます。
ナレッジ グラフは、まず、確率的論理プログラミングを使用して推論された論理的に導出された事実で強化されます。
次に、ニューラル モデルが各ターンで使用され、この拡張されたグラフの各ノードとエッジの会話の関連性がスコア付けされます。
最後に、関連性スコアが最も高い要素が自然言語形式に変換され、システム応答の生成に使用される神経会話モデルのプロンプトに統合されます。
私たちは、人による評価とともに、2 つのデータセット (KVRET と GraphWOZ) に対して提案されたアプローチの利点を調査します。
実験結果は、（確率的）論理的推論と会話の関連性スコアリングを組み合わせると、応答の事実性と流暢性の両方が向上することを示しています。

要約(オリジナル)

Constructing responses in task-oriented dialogue systems typically relies on information sources such the current dialogue state or external databases. This paper presents a novel approach to knowledge-grounded response generation that combines retrieval-augmented language models with logical reasoning. The approach revolves around a knowledge graph representing the current dialogue state and background information, and proceeds in three steps. The knowledge graph is first enriched with logically derived facts inferred using probabilistic logical programming. A neural model is then employed at each turn to score the conversational relevance of each node and edge of this extended graph. Finally, the elements with highest relevance scores are converted to a natural language form, and are integrated into the prompt for the neural conversational model employed to generate the system response. We investigate the benefits of the proposed approach on two datasets (KVRET and GraphWOZ) along with a human evaluation. Experimental results show that the combination of (probabilistic) logical reasoning with conversational relevance scoring does increase both the factuality and fluency of the responses.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google