QLSC: A Query Latent Semantic Calibrator for Robust Extractive Question Answering

要約

Machine Reading Comprehension (MRC) の抽出的質問応答 (EQA) は、意味的には同一だが形式が異なる入力を処理するという課題に直面することがよくあります。
私たちの研究では、既存のMRCモデルの補助モジュールとして設計された「Query Latent Semantic Calibrator（QLSC）」と呼ばれる新しいアプローチを導入しています。
私たちは、クエリの潜在的な意味中心の特徴を捕捉するための独自のスケーリング戦略を提案します。
これらの機能は、アテンション メカニズムを使用して従来のクエリとパッセージの埋め込みにシームレスに統合されます。
意味論的なクエリとパッセージの関係の理解を深めていくことで、私たちのアプローチはテキスト形式の変化に対する敏感さを軽減し、正確な答えを特定するモデルの能力を高めます。
堅牢な質問と回答のデータセットに関する実験結果は、私たちのアプローチが形式は異なるが意味的に同一のクエリを効果的に処理できることを確認し、提案した方法の有効性と適応性を強調しています。

要約(オリジナル)

Extractive Question Answering (EQA) in Machine Reading Comprehension (MRC) often faces the challenge of dealing with semantically identical but format-variant inputs. Our work introduces a novel approach, called the “Query Latent Semantic Calibrator (QLSC)”, designed as an auxiliary module for existing MRC models. We propose a unique scaling strategy to capture latent semantic center features of queries. These features are then seamlessly integrated into traditional query and passage embeddings using an attention mechanism. By deepening the comprehension of the semantic queries-passage relationship, our approach diminishes sensitivity to variations in text format and boosts the model’s capability in pinpointing accurate answers. Experimental results on robust Question-Answer datasets confirm that our approach effectively handles format-variant but semantically identical queries, highlighting the effectiveness and adaptability of our proposed method.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google