Soft Prompt Guided Joint Learning for Cross-Domain Sentiment Analysis

要約

アスペクト タームの抽出は、製品やサービスのレビューから顧客の意見の対象を検出することを目的とした、きめの細かいセンチメント分析の基本的なタスクです。
従来の教師ありモデルは、注釈付きのデータセットで有望な結果を達成できますが、クロスドメイン アスペクト ターム抽出のタスクに適用すると、パフォーマンスが劇的に低下します。
既存のクロスドメイン転送学習方法は、言語モデルに言語機能を直接注入して、言語知識をターゲット ドメインに転送することを困難にするか、固定の定義済みプロンプトに依存するため、すべての潜在的なアスペクト ターム スパンにわたってプロンプトを構築するのに時間がかかります。
.
制限を解決するために、この論文では、クロスドメインアスペクト用語抽出のためのソフトプロンプトベースの共同学習方法を提案します。
具体的には、外部言語機能を組み込むことにより、提案された方法は、複数の目的を介してソース ドメインとターゲット ドメイン間のドメイン不変表現を学習し、アスペクト タームのさまざまな分布を持つドメイン間のギャップを埋めます。
さらに、提案された方法は、ターゲットドメインでアスペクト用語を検出するのに有益な複数の学習可能なベクトルで構成される転送可能なソフトプロンプトのセットを補間します。
ベンチマークデータセットに対して広範な実験が行われ、実験結果は、クロスドメインアスペクト用語抽出のための提案された方法の有効性を示しています。

要約(オリジナル)

Aspect term extraction is a fundamental task in fine-grained sentiment analysis, which aims at detecting customer’s opinion targets from reviews on product or service. The traditional supervised models can achieve promising results with annotated datasets, however, the performance dramatically decreases when they are applied to the task of cross-domain aspect term extraction. Existing cross-domain transfer learning methods either directly inject linguistic features into Language models, making it difficult to transfer linguistic knowledge to target domain, or rely on the fixed predefined prompts, which is time-consuming to construct the prompts over all potential aspect term spans. To resolve the limitations, we propose a soft prompt-based joint learning method for cross domain aspect term extraction in this paper. Specifically, by incorporating external linguistic features, the proposed method learn domain-invariant representations between source and target domains via multiple objectives, which bridges the gap between domains with varied distributions of aspect terms. Further, the proposed method interpolates a set of transferable soft prompts consisted of multiple learnable vectors that are beneficial to detect aspect terms in target domain. Extensive experiments are conducted on the benchmark datasets and the experimental results demonstrate the effectiveness of the proposed method for cross-domain aspect terms extraction.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google