HULAT at SemEval-2023 Task 10: Data augmentation for pre-trained transformers applied to the detection of sexism in social media

要約

このホワイト ペーパーでは、SemEval-2023 タスク 10 への参加について説明します。このタスクの目標は、ソーシャル メディアにおける性差別の検出です。
BERT、DistilBERT、RoBERTa、XLNet などの最も一般的な変換モデルのいくつかを調べます。
また、トレーニング データセットを増やすために、さまざまなデータ拡張手法も研究しています。
開発段階では、タスク B と C で RoBERTa とデータ拡張を使用することで最良の結果が得られました。ただし、合成データを使用してもタスク C の結果は改善されませんでした。3 つのサブタスクに参加しました。
私たちのアプローチには、特に 2 つのきめの細かい分類において、まだ改善の余地があります。
すべてのコードはリポジトリ https://github.com/isegura/hulat_edos で入手できます。

要約(オリジナル)

This paper describes our participation in SemEval-2023 Task 10, whose goal is the detection of sexism in social media. We explore some of the most popular transformer models such as BERT, DistilBERT, RoBERTa, and XLNet. We also study different data augmentation techniques to increase the training dataset. During the development phase, our best results were obtained by using RoBERTa and data augmentation for tasks B and C. However, the use of synthetic data does not improve the results for task C. We participated in the three subtasks. Our approach still has much room for improvement, especially in the two fine-grained classifications. All our code is available in the repository https://github.com/isegura/hulat_edos.

arxiv情報

提供元, 利用サービス

arxiv.jp, Google