UBC-DLNLP at SemEval-2023 Task 12: Impact of Transfer Learning on African Sentiment Analysis

要約

タイトル：SemEval-2023タスク12におけるUBC-DLNLP：転移学習がアフリカ感情分析に与える影響

要約：

– SemEval 2023 AfriSenti-SemEval 共有タスクに対して、UBC-DLNLPは14種類のアフリカ言語における感情分析の課題に取り組む。
– 完全な教師あり学習設定 (AおよびBのサブタスク)でモノリンガルモデルとマルチリンガルモデルの両方を開発する。
– ゼロショット設定 (Cのサブタスク)のためのモデルも開発する。
– 6つの言語モデルを用いた転移学習を試行した。
– ファインチューニング技術を用いたモデルの性能が最も優れており、開発データのF1スコアは70.36、テストデータのF1スコアは66.13である。
– 転移学習とファインチューニング技術は、多言語感情分析において有効であることが示された。
– このアプローチは、他の言語やドメインにおける感情分析課題にも適用できる。

要約(オリジナル)

We describe our contribution to the SemEVAl 2023 AfriSenti-SemEval shared task, where we tackle the task of sentiment analysis in 14 different African languages. We develop both monolingual and multilingual models under a full supervised setting (subtasks A and B). We also develop models for the zero-shot setting (subtask C). Our approach involves experimenting with transfer learning using six language models, including further pertaining of some of these models as well as a final finetuning stage. Our best performing models achieve an F1-score of 70.36 on development data and an F1-score of 66.13 on test data. Unsurprisingly, our results demonstrate the effectiveness of transfer learning and fine-tuning techniques for sentiment analysis across multiple languages. Our approach can be applied to other sentiment analysis tasks in different languages and domains.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI