Generative Knowledge Selection for Knowledge-Grounded Dialogues

要約

タイトル：知識に基づく対話のための生成的知識選択
要約：
– 知識に基づく対話（KGD）において、知識スニペットの選択は重要。過去の対話履歴に基づいて適切な知識スニペットを選択することを目的とする。
– 従来の研究では、各候補スニペットを個別に「関連する」または「関連しない」と分類する分類アプローチが主に用いられてきた。しかし、そのようなアプローチはスニペット間の相互作用を無視し、スニペットの意味を推測することが困難になる傾向がある。
– さらに、対話-知識間の論理的構造をモデリングすることができない。
– そこで、知識選択に対してシンプルで効果的な生成的アプローチである「GenKS」を提案する。GenKSは、シーケンス・ツー・シーケンス・モデルを用いてスニペットの識別子を生成することによってスニペットの選択を学習する。GenKSは、アテンション・メカニズムを介してスニペット間の内部相互作用を固有に捕捉することができる。
– 一方、対話-知識間の相互作用を明示的にモデリングするために、ハイパーリンク・メカニズムを設計する。
– 3つのベンチマーク・データセットで実験を行い、GenKSは知識選択と応答生成の両方で最良の結果を達成することが確認された。

要約(オリジナル)

Knowledge selection is the key in knowledge-grounded dialogues (KGD), which aims to select an appropriate knowledge snippet to be used in the utterance based on dialogue history. Previous studies mainly employ the classification approach to classify each candidate snippet as ‘relevant’ or ‘irrelevant’ independently. However, such approaches neglect the interactions between snippets, leading to difficulties in inferring the meaning of snippets. Moreover, they lack modeling of the discourse structure of dialogue-knowledge interactions. We propose a simple yet effective generative approach for knowledge selection, called GenKS. GenKS learns to select snippets by generating their identifiers with a sequence-to-sequence model. GenKS therefore captures intra-knowledge interaction inherently through attention mechanisms. Meanwhile, we devise a hyperlink mechanism to model the dialogue-knowledge interactions explicitly. We conduct experiments on three benchmark datasets, and verify GenKS achieves the best results on both knowledge selection and response generation.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI