PICK: Polished & Informed Candidate Scoring for Knowledge-Grounded Dialogue Systems

要約

有益で魅力的な応答を生成するために、外部の知識に基づいて対話応答を生成することが提案されています。
しかし、現在の知識に基づいた対話 (KGD) システムは、幻覚や一貫性の欠如などのいくつかの問題により、生成された応答を人間が好む性質に合わせることができないことがよくあります。
複数の言語モデルの生成を分析すると、単一のデコード プロセス内で代替生成された応答の存在が観察されます。
これらの代替応答は、デコード プロセスによって優先順位が付けられた最適な応答と比較して、より忠実であり、以前の会話ターンと同等またはより高いレベルの関連性を示します。
これらの課題に対処し、これらの観察に基づいて、私たちは、追加のラベル付きデータやモデル調整を必要とせずにモデルが忠実で関連性のある応答を生成できるようにする世代再スコアリング フレームワークである Polished \& Informed Candidate Scoring (PICK) を提案します。
包括的な自動評価と人間による評価を通じて、対話履歴との関連性を維持しながら、より忠実な応答を生成するPICKの有効性を実証します。
さらに、PICK は、すべてのデコード戦略におけるオラクルと取得された知識の両方でシステムのパフォーマンスを一貫して向上させます。
詳細な実装は https://github.com/bryanwilie/pick で提供されています。

要約(オリジナル)

Grounding dialogue response generation on external knowledge is proposed to produce informative and engaging responses. However, current knowledge-grounded dialogue (KGD) systems often fail to align the generated responses with human-preferred qualities due to several issues like hallucination and the lack of coherence. Upon analyzing multiple language model generations, we observe the presence of alternative generated responses within a single decoding process. These alternative responses are more faithful and exhibit a comparable or higher level of relevance to prior conversational turns compared to the optimal responses prioritized by the decoding processes. To address these challenges and driven by these observations, we propose Polished \& Informed Candidate Scoring (PICK), a generation re-scoring framework that empowers models to generate faithful and relevant responses without requiring additional labeled data or model tuning. Through comprehensive automatic and human evaluations, we demonstrate the effectiveness of PICK in generating responses that are more faithful while keeping them relevant to the dialogue history. Furthermore, PICK consistently improves the system’s performance with both oracle and retrieved knowledge in all decoding strategies. We provide the detailed implementation in https://github.com/bryanwilie/pick .

arxiv情報

提供元, 利用サービス

arxiv.jp, Google