A Novel Ehanced Move Recognition Algorithm Based on Pre-trained Models with Positional Embeddings

要約

要約の認識は、内容を効果的に見つけて記事を明確にするために非常に重要です。
既存の動き認識アルゴリズムには、文脈上の意味を取得するために単語の位置情報を学習する機能がありません。
この論文は、中国の科学技術論文の非構造化抄録に対する、改良された事前トレーニングモデルとアテンションメカニズムを備えたゲートネットワークを備えた、新しく強化された動き認識アルゴリズムを提案します。
提案されたアルゴリズムは、最初に概要データのセグメント化と語彙トレーニングを実行します。
EP-ERNIE$\_$AT-GRU フレームワークを利用して単語の位置情報を組み込み、深層意味学習と対象を絞った特徴抽出を促進します。
実験結果は、提案されたアルゴリズムが元のデータセットよりも分割データセットで 13.37$\%$ 高い精度を達成し、基本的な比較モデルと比較して 7.55$\%$ 精度が向上することを示しています。

要約(オリジナル)

The recognition of abstracts is crucial for effectively locating the content and clarifying the article. Existing move recognition algorithms lack the ability to learn word position information to obtain contextual semantics. This paper proposes a novel enhanced move recognition algorithm with an improved pre-trained model and a gated network with attention mechanism for unstructured abstracts of Chinese scientific and technological papers. The proposed algorithm first performs summary data segmentation and vocabulary training. The EP-ERNIE$\_$AT-GRU framework is leveraged to incorporate word positional information, facilitating deep semantic learning and targeted feature extraction. Experimental results demonstrate that the proposed algorithm achieves 13.37$\%$ higher accuracy on the split dataset than on the original dataset and a 7.55$\%$ improvement in accuracy over the basic comparison model.

arxiv情報

著者 Hao Wen,Jie Wang,Xiaodong Qiao
発行日 2023-12-15 09:30:43+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.AI, cs.CL, cs.LG パーマリンク