Demonstrating Mutual Reinforcement Effect through Information Flow

要約

相互強化効果 (MRE) は、テキスト分類タスクにおける単語レベルの分類とテキスト レベルの分類の間の相乗関係を調査します。
それは、両方の分類レベルのパフォーマンスが相互に強化できることを前提としています。
しかし、このメカニズムは先行研究では十分に実証または説明されていません。
このギャップに対処するために、私たちは情報フロー分析を使用して MRE 理論を観察し実証します。
6 つの MRE ハイブリッド データセットに対する実験により、モデル内の MRE の存在とその影響が明らかになりました。
さらに、微調整実験を実施しましたが、その結果は情報フロー実験の結果と一致しました。
両方の実験の結果が収束することにより、MRE の存在が裏付けられます。
さらに、MRE のアプリケーションを拡張して学習を促進し、言語化ツールとして単語レベルの情報を利用して、テキスト レベルの分類ラベルのモデルの予測を強化しました。
私たちの最後の実験では、6 つのデータセットのうち 5 つで F1 スコアがベースラインを大幅に上回り、単語レベルの情報が言語モデルによるテキスト全体の理解を強化するという概念がさらに検証されました。

要約(オリジナル)

The Mutual Reinforcement Effect (MRE) investigates the synergistic relationship between word-level and text-level classifications in text classification tasks. It posits that the performance of both classification levels can be mutually enhanced. However, this mechanism has not been adequately demonstrated or explained in prior research. To address this gap, we employ information flow analysis to observe and substantiate the MRE theory. Our experiments on six MRE hybrid datasets revealed the presence of MRE in the model and its impact. Additionally, we conducted fine-tuning experiments, whose results were consistent with those of the information flow experiments. The convergence of findings from both experiments corroborates the existence of MRE. Furthermore, we extended the application of MRE to prompt learning, utilizing word-level information as a verbalizer to bolster the model’s prediction of text-level classification labels. In our final experiment, the F1-score significantly surpassed the baseline in five out of six datasets, further validating the notion that word-level information enhances the language model’s comprehension of the text as a whole.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google