UBC-DLNLP at SemEval-2023 Task 12: Impact of Transfer Learning on African Sentiment Analysis

要約

【タイトル】センチメント分析における転移学習のアフリカ語への効果：SemEval-2023 Task 12におけるUBC-DLNLPの貢献

【要約】
– SemEval-2023 AfriSenti-SemEval共有タスクに取り組んでおり、14の異なるアフリカ語でのセンチメント分析のタスクに取り組んでいる
– 分野AとBの完全教師あり設定下で、単一言語および多言語モデルを開発する
– 分野Cのゼロショット設定のためのモデルも開発する
– 私たちのアプローチは、6つの言語モデルを使用した転移学習を実験することを含み、いくつかのこれらのモデルの詳細な関連付けと最終ファインチューニング段階を含む
– 私たちの最も優れた性能を発揮するモデルは開発データでF1スコアが70.36、テストデータでF1スコアが66.13を達成した
– 結果から、複数の言語でのセンチメント分析のための転移学習およびファインチューニング技術の有効性が示された
– 私たちのアプローチは、異なる言語やドメインにおける他のセンチメント分析タスクにも適用可能である

要約(オリジナル)

We describe our contribution to the SemEVAl 2023 AfriSenti-SemEval shared task, where we tackle the task of sentiment analysis in 14 different African languages. We develop both monolingual and multilingual models under a full supervised setting (subtasks A and B). We also develop models for the zero-shot setting (subtask C). Our approach involves experimenting with transfer learning using six language models, including further pertaining of some of these models as well as a final finetuning stage. Our best performing models achieve an F1-score of 70.36 on development data and an F1-score of 66.13 on test data. Unsurprisingly, our results demonstrate the effectiveness of transfer learning and fine-tuning techniques for sentiment analysis across multiple languages. Our approach can be applied to other sentiment analysis tasks in different languages and domains.

arxiv情報

提供元, 利用サービス

arxiv.jp, OpenAI