RECKONING: Reasoning through Dynamic Knowledge Encoding

要約

トランスフォーマーベースの言語モデルに関する最近の研究では、コンテキストの一部として提供される知識に基づいて推論する (つまり、コンテキスト内推論) ことで質問に答えることができることが示されています。
ただし、利用可能な知識が特定の質問に対してフィルタリングされていないことが多いため、コンテキスト内の推論は、気が散るような事実、質問には無関係でも別の質問には関連する可能性のある追加コンテンツ（つまり、必ずしもランダムなノイズではない）に敏感になる可能性があります。
）。
このような状況では、モデルは質問に答えるために必要な知識を区別できず、誤った推論やパフォーマンスの低下につながります。
この推論の失敗は、事前トレーニング中に記憶したすべての知識からその文脈上の知識を区別するモデルの明らかな能力とは対照的です。
この観察に続いて、質問を提示する前に、提供された文脈上の知識をモデルのパラメーターに組み込むことによって、より堅牢に推論するようにモデルを教育することを提案します。
私たちの手法 RECKONING は、逆伝播を通じてパラメトリック知識を更新することで言語モデルに推論を教え、更新されたパラメーターを使用して質問に答えることができる 2 レベル学習アルゴリズムです。
トレーニング中、内側のループはモデルの重みのコピーを迅速に適応させて、コンテキストに応じた知識をパラメーターにエンコードします。
外側のループでは、モデルは更新された重みを使用して記憶された知識を再現し、推論の質問に答える方法を学習します。
2 つのマルチホップ推論データセットに対する実験では、RECKONING のパフォーマンスがコンテキスト内推論のベースラインよりも向上している (最大 4.5%) ことが示されています。
また、コンテキスト内の推論と比較して、RECKONING はトレーニング中には見ら​​れない長い推論チェーンをよりよく一般化し、コンテキスト内の混乱要因に対してより堅牢であり、同じ知識について複数の質問が行われた場合に計算効率が高いこともわかりました。

要約(オリジナル)

Recent studies on transformer-based language models show that they can answer questions by reasoning over knowledge provided as part of the context (i.e., in-context reasoning). However, since the available knowledge is often not filtered for a particular question, in-context reasoning can be sensitive to distractor facts, additional content that is irrelevant to a question but that may be relevant for a different question (i.e., not necessarily random noise). In these situations, the model fails to distinguish the knowledge that is necessary to answer the question, leading to spurious reasoning and degraded performance. This reasoning failure contrasts with the model’s apparent ability to distinguish its contextual knowledge from all the knowledge it has memorized during pre-training. Following this observation, we propose teaching the model to reason more robustly by folding the provided contextual knowledge into the model’s parameters before presenting it with a question. Our method, RECKONING, is a bi-level learning algorithm that teaches language models to reason by updating their parametric knowledge through back-propagation, allowing them to then answer questions using the updated parameters. During training, the inner loop rapidly adapts a copy of the model weights to encode contextual knowledge into its parameters. In the outer loop, the model learns to use the updated weights to reproduce and answer reasoning questions about the memorized knowledge. Our experiments on two multi-hop reasoning datasets show that RECKONING’s performance improves over the in-context reasoning baseline (by up to 4.5%). We also find that compared to in-context reasoning, RECKONING generalizes better to longer reasoning chains unseen during training, is more robust to distractors in the context, and is more computationally efficient when multiple questions are asked about the same knowledge.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google