BP4ER: Bootstrap Prompting for Explicit Reasoning in Medical Dialogue Generation

要約

医療対話生成 (MDG) は、その実用的な価値が非常に高いため、ますます注目を集めています。
従来の研究では、通常、シーケンスツーシーケンスのフレームワークを使用して、注釈付きの医療エンティティを含む連続テキストとして対話コンテキストをモデル化することで医療応答を生成していました。
これらの方法は流暢な応答を生成することに成功していますが、推論のプロセス説明を提供することができず、広範なエンティティの注釈が必要です。
これらの制限に対処するために、MDG の複数ステップの推論プロセスを明示的にモデル化し、この推論プロセスを反復的に強化する Bootstrap Prompting for Explicit Reasoning in MDG (BP4ER) メソッドを提案します。
私たちは、明示的な推論において大規模言語モデル (LLM) をガイドするために、最小から最大へのプロンプト戦略を採用し、MDG をより単純なサブ質問に分割します。
これらのサブ質問は、以前の質問の回答に基づいて作成されています。
さらに、プロンプトを表示するための 2 つの異なるブートストラップ手法も導入します。これらは自律的にエラーを修正し、LLM の明示的な推論を容易にします。
このアプローチでは、エンティティの注釈の必要性がなくなり、中間推論チェーンを明示的に生成することで MDG プロセスの透明性が高まります。
2 つの公開データセットに関する実験結果は、BP4ER が客観的評価基準と主観的評価基準の両方の点で最先端の方法よりも優れていることを示しています。

要約(オリジナル)

Medical dialogue generation (MDG) has gained increasing attention due to its substantial practical value. Previous works typically employ a sequence-to-sequence framework to generate medical responses by modeling dialogue context as sequential text with annotated medical entities. While these methods have been successful in generating fluent responses, they fail to provide process explanations of reasoning and require extensive entity annotation. To address these limitations, we propose the method Bootstrap Prompting for Explicit Reasoning in MDG (BP4ER), which explicitly model MDG’s multi-step reasoning process and iteratively enhance this reasoning process. We employ a least-to-most prompting strategy to guide a large language model (LLM) in explicit reasoning, breaking down MDG into simpler sub-questions. These sub-questions build on answers from previous ones. Additionally, we also introduce two distinct bootstrapping techniques for prompting, which autonomously correct errors and facilitate the LLM’s explicit reasoning. This approach eliminates the need for entity annotation and increases the transparency of the MDG process by explicitly generating the intermediate reasoning chain. The experimental findings on the two public datasets indicate that BP4ER outperforms state-of-the-art methods in terms of both objective and subjective evaluation metrics.

arxiv情報

著者 Yuhong He,Yongqi Zhang,Shizhu He,Jun Wan
発行日 2024-03-28 13:38:13+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク