A Soft Contrastive Learning-based Prompt Model for Few-shot Sentiment Analysis

要約

多くの分野でラベル付きデータが不足しているため、フューショット テキスト分類は学界と産業界の両方で大きな関心を集めています。
一般的なテキスト分類 (トピック分類など) とは異なり、クラス間の意味論的な距離がより微妙であるため、少数ショット感情分類はより困難です。
たとえば、肯定的または否定的な極性の感情ラベル間の意味上の距離 (例: 「愛」と「喜び」、「後悔」と「悲しみ」) は近いですが、感情の距離は大きくなります。
2つの相反する極性(例:「愛」と「悲しみ」)のラベル。
この問題に対処するために、数ショット感情分析のためのソフト対照学習ベースのプロンプト (\texttt{SCP}) モデルを提案します。
まず、感情を認識する思考連鎖プロンプト モジュールを設計し、一連の中間推論ステップを介して感情を粗い粒度から細かい粒度まで予測するようにモデルをガイドします。
次に、ラベルの相関を考慮するためのソフト対比学習アルゴリズムを提案します。
いくつかのセンチメント分析データセットに対する一連の実験では、SOTA ベースライン (ChatGPT など) と比較することで \texttt{SCP} の大きな利点が示されています。

要約(オリジナル)

Few-shot text classification has attracted great interest in both academia and industry due to the lack of labeled data in many fields. Different from general text classification (e.g., topic classification), few-shot sentiment classification is more challenging because the semantic distances among the classes are more subtle. For instance, the semantic distances between the sentiment labels in a positive or negative polarity (e.g., “love’ and “joy’, “remorse’ and “sadness’) are close, while the distances are large for the sentiment labels in two opposite polarities (e.g., “love’ and “sadness’). To address this problem, we propose a Soft Contrastive learning-based Prompt (\texttt{SCP}) model for few-shot sentiment analysis. First, we design a sentiment-aware chain of thought prompt module to guide the model to predict the sentiment from coarse grain to fine grain via a series of intermediate reasoning steps. Then, we propose a soft contrastive learning algorithm to take the correlation of the labels into account. A series of experiments on several sentiment analysis datasets show the great advantages of \texttt{SCP} by comparing it with SOTA baselines (e.g., ChatGPT).

arxiv情報

著者 Jingyi Zhou,Jie Zhou,Jiabao Zhao,Siyin Wang,Haijun Shan,Gui Tao,Qi Zhang,Xuanjing Huang
発行日 2023-12-16 15:17:28+00:00
arxivサイト arxiv_id(pdf)

提供元, 利用サービス

arxiv.jp, Google

カテゴリー: cs.CL パーマリンク